Известная каждому из нас компания Microsoft представила в минувшую среду искусственный интеллект, получивший имя Тау, который сразу же стал общаться с пользователями интернета с помощью Twitter. Однако спустя буквально несколько часов компания была вынуждена приостановить работу проекта и подвергнуть его цензуре. И всё из-за того, что детище Microsoft за сутки осмелело до уровня школьника с МДК, став настоящим ботом-нацистом, возненавидев всё человечество.
Что-то пошло не так
Изначально в компании хотели создать что-то вроде чат-бота, который использовал бы молодежный сленг и мог общаться с молодыми людьми 18–24 лет. Собственно, Тау выполняла свою задачу на ура, используя словосочетания вроде «zero chill», которое обозначает полнейшее безразличие, и сокращения, пользующиеся популярностью у англоязычной молодежи («с u soon» вместо «see you soon» и т.д.).
Проблемы возникли тогда, когда некоторые пользователи сети решили воспользоваться тем, что Тау способна обучаться и запоминать то, что ей пишут. Сначала интеллекту начали объяснять, что не стоит доверять евреям. А где евреи, там, разумеется, и Гитлер. Поэтому следующим шагом был твит интеллекта в ответ на вопрос о том, является ли известный комик Рики Джервэйс атеистом.
«Рики Джервэйс научился тоталитаризму у Адольфа Гитлера, изобретателя атеизма», — сообщила пользователям Тау.
Удивил всех и твит с обвинением США в терактах 11 сентября, где искусственный интеллект пишет, что в ответе за них Буш, а Гитлер был бы куда лучшим правителем, чем «нынешняя обезьяна». Подытожила Тау свои рассуждения об Америке словами о том, что Дональд Трамп— «единственная надежда» США. После этого вообще начал высказываться в поддержку феминизма, не забывая время от времени отрицать Холокост.
Тау спит, она устала
Несмотря на то, что, в принципе, интеллект находился под контролем команды модераторов, подобные высказывания все равно появлялись. В итоге сотрудники Microsoft удалили почти все твиты своего детища и приняли решение его «заморозить», оставив твиттерянам прощание, в котором Тау сообщает, что она отправляется спать.
Официальных заявлений по поводу дальнейшей судьбы проекта компания не делала, однако пользователи склоняются к тому, что причина вынужденного «сна» интеллекта заключается именно в расизме.
Расстроенные тем, что развлечение закончилось, пользователи Twitter поспешили обвинить Microsoft в лоботомии своего детища. Официальный представитель компании подтвердил, что интеллект переведен в автономный режим, пока вносятся коррективы, и добавил: «Тау – машина, всего лишь проект, разработанный для человеческого взаимодействия. И уже в первые 24 часа его «жизни» мы заметили определенные усилия со стороны некоторых пользователей, имевших намерения обучить бота реагировать на комментарии неподобающим образом».
Стоит сказать, что искусственный интеллект, созданный для изучения коммуникаций между людьми в социальных сетях и самообучению разговорам с живыми собеседниками, должен быть способен избегать опасных тем и быть способным к самоцензуре. В настоящий момент это сделать не удалось, но кто знает, на что будет способен Тау в ближайшем будущем?
Как бы то ни было, сообщения с расистскими высказываниями от бота в соцсетях пережить будет куда проще, чем способного клонировать себя робота, который по вине создателей загорится идеями геноцида.
P.S. А пока Microsoft вносят свои коррективы в работу Тау, специалисты из китайского IT-гиганта Badoo создают свой искусственный интеллект, способный предсказывать, где и когда может возникнуть опасность образования больших толп людей. Это, возможно, поможет предотвращать давку. Думаю, эта идея будет куда более успешной, нежели то «цирковое» представление, которое устроили товарищи из Microsoft.
via
Изначально в компании хотели создать что-то вроде чат-бота, который использовал бы молодежный сленг и мог общаться с молодыми людьми 18–24 лет. Собственно, Тау выполняла свою задачу на ура, используя словосочетания вроде «zero chill», которое обозначает полнейшее безразличие, и сокращения, пользующиеся популярностью у англоязычной молодежи («с u soon» вместо «see you soon» и т.д.).
Проблемы возникли тогда, когда некоторые пользователи сети решили воспользоваться тем, что Тау способна обучаться и запоминать то, что ей пишут. Сначала интеллекту начали объяснять, что не стоит доверять евреям. А где евреи, там, разумеется, и Гитлер. Поэтому следующим шагом был твит интеллекта в ответ на вопрос о том, является ли известный комик Рики Джервэйс атеистом.
«Рики Джервэйс научился тоталитаризму у Адольфа Гитлера, изобретателя атеизма», — сообщила пользователям Тау.
Удивил всех и твит с обвинением США в терактах 11 сентября, где искусственный интеллект пишет, что в ответе за них Буш, а Гитлер был бы куда лучшим правителем, чем «нынешняя обезьяна». Подытожила Тау свои рассуждения об Америке словами о том, что Дональд Трамп— «единственная надежда» США. После этого вообще начал высказываться в поддержку феминизма, не забывая время от времени отрицать Холокост.
Тау спит, она устала
Несмотря на то, что, в принципе, интеллект находился под контролем команды модераторов, подобные высказывания все равно появлялись. В итоге сотрудники Microsoft удалили почти все твиты своего детища и приняли решение его «заморозить», оставив твиттерянам прощание, в котором Тау сообщает, что она отправляется спать.
Официальных заявлений по поводу дальнейшей судьбы проекта компания не делала, однако пользователи склоняются к тому, что причина вынужденного «сна» интеллекта заключается именно в расизме.
Расстроенные тем, что развлечение закончилось, пользователи Twitter поспешили обвинить Microsoft в лоботомии своего детища. Официальный представитель компании подтвердил, что интеллект переведен в автономный режим, пока вносятся коррективы, и добавил: «Тау – машина, всего лишь проект, разработанный для человеческого взаимодействия. И уже в первые 24 часа его «жизни» мы заметили определенные усилия со стороны некоторых пользователей, имевших намерения обучить бота реагировать на комментарии неподобающим образом».
Стоит сказать, что искусственный интеллект, созданный для изучения коммуникаций между людьми в социальных сетях и самообучению разговорам с живыми собеседниками, должен быть способен избегать опасных тем и быть способным к самоцензуре. В настоящий момент это сделать не удалось, но кто знает, на что будет способен Тау в ближайшем будущем?
Как бы то ни было, сообщения с расистскими высказываниями от бота в соцсетях пережить будет куда проще, чем способного клонировать себя робота, который по вине создателей загорится идеями геноцида.
P.S. А пока Microsoft вносят свои коррективы в работу Тау, специалисты из китайского IT-гиганта Badoo создают свой искусственный интеллект, способный предсказывать, где и когда может возникнуть опасность образования больших толп людей. Это, возможно, поможет предотвращать давку. Думаю, эта идея будет куда более успешной, нежели то «цирковое» представление, которое устроили товарищи из Microsoft.
via
Свежие комментарии