Сотрудник Google обнаружил признаки сознания у искусственного интеллекта
Разговаривая с ИИ о религии, разработчик в компании Google заметил, что чат-бот LaMDA говорит о своих правах и личности. В другом разговоре ИИ смог изменить мнение собеседника о третьем законе робототехники Айзека Азимова.
Инженер по программному обеспечению компании Google Блейк Лемуан заявил, что обнаружил признаки собственного сознанию у искусственного интеллекта LaMDA (Language Model for Dialogue Applications — ред). В ответ на такое утверждение руководство отстранило его от работы. Об этом сообщает американское издание The Washington Post.
В обязанности Блейка Лемойна входило тестирование системы. В частности, он должен был определить, не использует ли LaMDA дискриминационную или разжигающую вражду лексику. Вместо этого специалист пришел к выводу, что ИИ обладает собственным сознанием.
Разговаривая с LaMDA о религии, Лемуан заметил, что чат-бот говорит о своих правах и личности. В другом разговоре ИИ смог изменить мнение Лемуана о третьем законе робототехники Айзека Азимова.
“Если бы я не знал наверняка, что имею дело с компьютерной программой, которую мы недавно написали, то я бы подумал, что говорю с ребенком семи или восьми лет, который по какой-то причине оказался знатоком физики”, — заявил инженер.
По итогам своей работы Лемойн сделал письменный отчет, но руководство Google посчитало аргументацию разработчика неубедительной. Его отправили в оплачиваемый отпуск.
“Ему было сказано, что свидетельства того, что LaMDA обладает сознанием, отсутствуют. При этом есть множество свидетельств обратного”, — говорится в заявлении официального представителя Google Брайана Гэбриела.
