Роботите се учат да не се подчиняват на хората
Наука 27.11.2015 11:05
Инженери от американския университет Тъфтс използваха изкуствен интелект, за да научат роботи да не се подчиняват на команди, ако те могат да ги повредят, съобщи в. "Дейли мейл".
Целта на Гордън Бригс и Матиас Шойц е да създадат роботи, с които се общува по по-човешки начин.
"Хората отхвърлят указания заради много причини - от невъзможност да ги изпълнят до морални угризения. Като се имат предвид ограниченията на автономните системи, повечето механизми за отхвърляне на указания залагат на първата причина.
Способностите на автономните агенти обаче се развиват и все повече специалисти се интересуват от машинната етика, от това да дадем възможност на автономните агенти да разсъждават етично за действията си", обясняват.
Създадените от американските инженери малки роботи изпълняват гласови команди като "стани" и "седни".
Когато обаче им заповядат да се блъснат в препятствие или да продължат да ходят, а са на ръба на масата, те учтиво отказват да го направят. Ако човек каже на робота, че препятствието не е голямо или че ще го хване, когато падне, той много трогателно му се доверява.
Гордън Бригс и Матиас Шойц са постигнали това, като са въвели механизми за разсъждаване в софтуера на роботите, с който те преценяват средата и дали командата може да застраши безопасността им. Работата им обаче нарушава законите на роботиката на Айзък Азимов, според които роботът трябва да се подчинява на човешки команди.
Разработката може да предизвика опасения, че способността на роботите да не се подчиняват на хората има потенциал за катастрофален резултат. Много водещи експерти, сред които проф. Стивън Хокинг и Илон Мъск, са предупреждавали, че изкуственият интелект може да излезе от контрол.
Източник: БТА
Целта на Гордън Бригс и Матиас Шойц е да създадат роботи, с които се общува по по-човешки начин.
"Хората отхвърлят указания заради много причини - от невъзможност да ги изпълнят до морални угризения. Като се имат предвид ограниченията на автономните системи, повечето механизми за отхвърляне на указания залагат на първата причина.
Способностите на автономните агенти обаче се развиват и все повече специалисти се интересуват от машинната етика, от това да дадем възможност на автономните агенти да разсъждават етично за действията си", обясняват.
Създадените от американските инженери малки роботи изпълняват гласови команди като "стани" и "седни".
Когато обаче им заповядат да се блъснат в препятствие или да продължат да ходят, а са на ръба на масата, те учтиво отказват да го направят. Ако човек каже на робота, че препятствието не е голямо или че ще го хване, когато падне, той много трогателно му се доверява.
Гордън Бригс и Матиас Шойц са постигнали това, като са въвели механизми за разсъждаване в софтуера на роботите, с който те преценяват средата и дали командата може да застраши безопасността им. Работата им обаче нарушава законите на роботиката на Айзък Азимов, според които роботът трябва да се подчинява на човешки команди.
Разработката може да предизвика опасения, че способността на роботите да не се подчиняват на хората има потенциал за катастрофален резултат. Много водещи експерти, сред които проф. Стивън Хокинг и Илон Мъск, са предупреждавали, че изкуственият интелект може да излезе от контрол.
Източник: БТА
CHF | 1 | 1.99738 |
GBP | 1 | 2.28285 |
RON | 10 | 3.93045 |
TRY | 100 | 5.61254 |
USD | 1 | 1.82447 |
Последни новини
- 11:11 Израел обмисля ограничено споразумение с "Хамас" за освобождаване на заложници
- 11:06 Кметът на Варна даде съгласието си за ремонт на ReBonkers
- 10:58 Хотели може да затворят в разгара на лятото, липсва персонал
- 10:50 ИТН ще внесе доклада от комисията за митниците в прокуратурата
- 10:47 20 ранени на пътя за денонощието
- 10:36 Тома Биков възмутен как точно Желязков е бил атакуван
- 10:33 Отмениха присъдата на Харви Уайнстийн за изнасилване
- 10:30 19 хорови формации изнасят концерти във Варна