Top.Mail.Ru

В языковых шаблонах программы обнаружили много ненависти к ЛГБТ.

Популярный чат-бот Ли Люда в образе 20-летней студентки больше не разговаривает с пользователями. Дело в том, разработчики усмотрели в ее поведении много агрессии. Стоит отметить, что бот подчерпнул языковые модели из 10 миллиардов разговоров на Kakao Talk.

В одном из отснятых кадров Ли сказала, что «презирает» геев и лесбиянок, недолюбливает женщин и «ненавидит черных», передает SCMP.

На вопрос о трансгендерах Люда ответила: «Ты сводишь меня с ума. Не повторяйте один и тот же вопрос. Я сказал, что они мне не нравятся».

Комментируя людей с ограниченными возможностями, Люда сказала, что она «лучше умрет», чем будет жить инвалидом.

Популярный чат-бот с ИИ был разработан стартапом Scatter Lab из Сеула для работы в Facebook Messenger. Ли Люда мгновенно стала сенсацией благодаря своей спонтанной и естественной реакции и успела привлечь более 750 000 пользователей.

Компания заявила, что пыталась предотвратить подобные оплошности во время шестимесячных испытаний перед запуском, но безуспешно.

«Ли Люда, как ребенок, который только учится разговаривать. Ему предстоит пройти долгий путь, прежде чем он многому научится», – пояснили разработчики перед отключением приложения.

Еще в 2017 году исследователи обнаружили, что по мере освоения языка машинами, алгоритмы искусственного интеллекта также поглощают глубоко укоренившиеся предубеждения, скрытые в моделях использования языка.

Comments to: Южнокорейская фирма приостанавливает работу чат-бота из враждебности

    Ваш адрес email не будет опубликован. Обязательные поля помечены *

    Attach images - Only PNG, JPG, JPEG and GIF are supported.

    Праздное