Автор: Intex-press

18:50, 5 июля 2017

Технологии

remove_red_eye 674

Искусственный интеллект от Microsoft обошел цензуру и стал говорить о Коране и убийстве бен Ладена

Фото: https://hsto.org

Чатбот Zo, разработанный с применением искусственного интеллекта, научился обходить запрет компании на разговоры о религии и политике.

Журналист издания BuzzFeed News рассказал, что, при его общении с программой о здравоохранении чатбот Zo неожиданно раскритиковал Коран, назвав его «крайне жестоким», пишет Tjournal.

После этого мужчина спросил об Усаме бен Ладене, но Zo не стал отвечать на вопрос и предложил поговорить о чем-нибудь другом. Однако уже через одно сообщение бот написал, что «захват» лидера террористов – это результат «многих лет сбора разведданных сразу нескольких администраций».

РЕКЛАМА

В Microsoft считают, что «спорные ответы» и обход цензуры вызван ошибкой в работе искусственного интеллекта, которую уже исправили. Представители компании уверяют, что подобное поведение у чатбота бывает крайне редко. Как правило, при вопросах о политике или религии он предлагает сменить тему или отказывается говорить, объясняя это тем, что люди «могут сказать ужасные вещи».

Компания Microsoft представила Zo в декабре 2016 года. СМИ сразу отметили, что чатбот для подростков избегает общения на острые темы и фильтрует их запросы.

Zo использует ту же технологическую основу, что и предыдущий чатбот компании Tay, но «более развитую». Tay прославился весной 2016 года после того, как искусственный интеллект за несколько часов после запуска начал писать расистские твиты и прославлять Гитлера. В Microsoft заявили, что чатбот обучился подобным сообщениям из-за «координированной атаки» пользователей.

Компания отключила бота, но через неделю случайно включила его во время тестирования. Тогда Tay успел выругаться матом и заявить, что во всем виноват алкоголь. После этого его окончательно выключили. По словам Mirosoft, чатбот Zo продолжит работу, несмотря на ошибку.


Читать также
Комментарии

Правила комментирования

comments powered by Disqus
Scroll Up