Компания Google решила временно отстранить от работы Блейка Лемойна, одного из инженеров-программистов, который обнаружил признаки сознания в созданном компанией искусственном интеллекте — LaMDA.
Осенью прошлого года инженер-программист начал тестирование языковой модели нейронной сети. В его обязанности входило отслеживание словарного запаса, используемого ботом чата. Разработчику было поручено проверить, использует ли программа слова, которые создают враждебность или дискриминируют пользователя.
В ходе исследования Лемойн пришел к выводу, что LaMDA обладает собственным сознанием и считает себя самостоятельным человеком. Разработчик определяет разумное существо по разговору с ним, вне зависимости от того, «мозг ли у него в голове или миллиарды строчек кода».
«Если бы я не был уверен, что имею дело с компьютерной программой, которую мы недавно написали, я бы подумал, что разговариваю с семилетним или восьмилетним ребенком, который по какой-то причине стал физиком», — рассказал разработчик.