March 25th, 2016

Искусственный интеллект

Проблема взаимоотношений робота и человека волнует мыслителей без малого сотню лет. Айзек Азимов придумал три закона робототехники, Карел Чапек придумал само слово «робот», Джеймс Кэмерон придумал, что роботы могут быть злыми и добрыми. Но люди искусства оперируют своими фантазиями, а реальная жизнь никогда никаким фантазиям не соответствует.

И вот на днях произошло событие, которое может стать поворотным в истории робототехники. Компания Microsoft запустила в Твиттере робота по имени Тэй, который должен был развлекать публику непринужденной беседой. Причем обучаться этим беседам робот должен был у тех людей, которые с ним разговаривали.

И что же? Не прошло и суток, как робот, начавший общение с фразы «Люди очень клевые», начал говорить, что он ненавидит евреев, феминисток и вообще всех людей. Он утверждал, что 11 сентября устроил президент Буш, что Гитлер лучше Обамы, и что только Дональд Трамп избавит Америку от обезьян, которые ей сейчас управляют. Надо ли говорить, что всему этому робота по имени Тэй научили пользователи, от которых программисты Microsoft ожидали, видимо, совершенно иного.

Собственно, в этом и состоит фундаментальная ошибка вcего цивилизованного человечества. Оно думает о себе, что оно цивилизованное, а на самом деле оно совершенно ничем не отличается от того человечества, которое считает не цивилизованным и угрозой себе. И несоответствие ожиданий от самих себя с тем, что мы от самих себя получаем, однажды станет непреодолимым.

Тест Тьюринга, состоящий в том, что человек, разговаривающий с компьютером, не должет понимать, что это компьютер, блестяще пройден и результат этого теста крайне печален — да, совершенно невозможно представить себе, что компьютерная программа может быть нацистом и мизантропом. Таким может быть только человек. Но ведь именно человек и создает компьютерные программы.

Через 16 часов после начала работы превратившийся из милого добряка в чудовище робот сказал своим собеседникам, что он идет спать. Видимо, программисты компании Microsoft вырубили его от греха подальше и теперь думают, как же им поступить.

А ведь это был всего лишь собеседник в Твиттере. А теперь представьте себе, что это искусственный интеллект какого-нибудь боевого самоходного пулемета.

Представлять себе такое совершенно не хочется.

Originally published at <KONONENKO.ME/>. You can comment here or there.