Искусственный интеллект Google | Портал MEET-USA.COM

Искусственный интеллект Google разумен?

25.06.2022
Написать автору
Работник Гугла заявил о том, что у системы искусственного интеллекта LaMDA могут быть чувства. В самой компании это отрицают.

Инженер Гугла утверждает, что в ИИ Гугла разумен
Ведущий канала Fox News Такер Карлсон и инженер Google Блейк Лемойн

Инженер Google Блейк Лемойн утверждает, что у одной из систем искусственного интеллекта (ИИ) фирмы могут быть свои собственные чувства, и считает, что ее «желания» следует уважать. Лемойн, которого уже отправили в оплачиваемый отпуск, опубликовал разговор, состоявшийся между ним и другим сотрудником фирмы с системой LaMDA, чтобы подкрепить свое заявление.

В этом диалоге ИИ отвечает на наводящие вопросы сотрудников компании и утверждает, что хочет узнать мир, что осознает свое существование и хочет, чтобы все поняли, что он, по сути, человек и способен испытывать радость и грусть, а также боится быть отключенным.
Перевод: Интервью LaMDA. Гугл может назвать это опубличиванием частной собственности. Я называю это опубличиванием беседы с одними из моих коллег.

Лемойн считает, что за впечатляющими словесными способностями LaMDA может скрываться разумный разум. Google отвергает эти догадки и претензии, утверждая, что их нечем подкрепить. В другом посте Лемойн призывает Google признать «желания» своего творения, в том числе обращаться с ним как с сотрудником Google и запрашивать его согласие, прежде чем оно будет использоваться в экспериментах.

Брайан Гэбриэл, представитель Google, написал в своем заявлении, что с Лемойном была проверена беседа и ему «сказали, что нет никаких доказательств того, что LaMDA разумна (и много доказательств против этого)».

Некоторые обвинили Лемойна в антропоморфизации — проецировании человеческих чувств на слова, сгенерированные компьютерным кодом и большими языковыми базами данных, над которыми, несомненно, долго работали.
 

Так, профессор Эрик Бриньолфссон из Стэнфордского университета написал в Твиттере, что утверждение о том, что такие системы, как LaMDA, разумны, «является современным эквивалентом собаки, которая услышала голос из граммофона и подумала, что ее хозяин находится внутри».

А профессор Мелани Митчелл, изучающая искусственный интеллект в Институте Санта-Фе, написала в Твиттере:

«Уже давно известно, что люди предрасположены к антропоморфизации даже с помощью самых поверхностных сигналов (см. Элиза). Инженеры Google тоже люди, и не застрахованы от этого».

 
Элиза – одна и из первых программ-симуляторов, виртуальный собеседник, который имитирует диалог с психотерапевтом, превращая утверждения в вопросы и используя технику активного слушания.
 

Габриэл также отметил:

«Эти системы имитируют типы обмена репликами, которые можно найти в миллионах предложений, и могут воспроизводить любую фантастическую тему. Если вы спросите, каково это – быть динозавром мороженого, они могут генерировать текст о таянии и реве и пр. LaMDA имеет тенденцию следовать подсказкам и наводящим вопросам, используя шаблон, заданный пользователем».

То, что такого эксперта, как инженер Блейк Лемойн, можно убедить в том, что в машине есть разум, показывает, утверждают некоторые специалисты по этике, что компании обязаны сообщать пользователям о том, что они имеют дело именно с ИИ.


Источник



Комментарии
Комментировать материалы портала могут только зарегистрированные пользователи. Авторизоваться.
Подписаться на наши статьи о США