Новости / Технологии

Искусственный интеллект от Microsoft обошел цензуру и стал говорить о Коране и убийстве бен Ладена

5.07.2017, 18:50 / remove_red_eye 716 / chat_bubble0

Чатбот Zo, разработанный с применением искусственного интеллекта, научился обходить запрет компании на разговоры о религии и политике.

Искусственный интеллект от Microsoft обошел цензуру и стал говорить о Коране и убийстве бен Ладена

Фото: https://hsto.org

Журналист издания BuzzFeed News рассказал, что, при его общении с программой о здравоохранении чатбот Zo неожиданно раскритиковал Коран, назвав его «крайне жестоким», пишет Tjournal.

После этого мужчина спросил об Усаме бен Ладене, но Zo не стал отвечать на вопрос и предложил поговорить о чем-нибудь другом. Однако уже через одно сообщение бот написал, что «захват» лидера террористов – это результат «многих лет сбора разведданных сразу нескольких администраций».

РЕКЛАМА

В Microsoft считают, что «спорные ответы» и обход цензуры вызван ошибкой в работе искусственного интеллекта, которую уже исправили. Представители компании уверяют, что подобное поведение у чатбота бывает крайне редко. Как правило, при вопросах о политике или религии он предлагает сменить тему или отказывается говорить, объясняя это тем, что люди «могут сказать ужасные вещи».

Компания Microsoft представила Zo в декабре 2016 года. СМИ сразу отметили, что чатбот для подростков избегает общения на острые темы и фильтрует их запросы.

Zo использует ту же технологическую основу, что и предыдущий чатбот компании Tay, но «более развитую». Tay прославился весной 2016 года после того, как искусственный интеллект за несколько часов после запуска начал писать расистские твиты и прославлять Гитлера. В Microsoft заявили, что чатбот обучился подобным сообщениям из-за «координированной атаки» пользователей.

Компания отключила бота, но через неделю случайно включила его во время тестирования. Тогда Tay успел выругаться матом и заявить, что во всем виноват алкоголь. После этого его окончательно выключили. По словам Mirosoft, чатбот Zo продолжит работу, несмотря на ошибку.


Читать также
Комментарии

Правила комментирования

Обсуждение закрыто.

Scroll Up