Евгений Сокольский предлагает Вам запомнить сайт «АиФ.ru | Объясняем, что происходит»
Вы хотите запомнить сайт «АиФ.ru | Объясняем, что происходит»?
Да Нет
×
Прогноз погоды

Полезные инструкции от aif.ru


Инструкции на все случаи жизни.

Боты изобрели свой язык. Опасно ли развитие искусственного интеллекта?

развернуть

Боты изобрели свой язык. Опасно ли развитие искусственного интеллекта?

На прошлой неделе руководство Facebook обнаружило, что их система искусственного интеллекта (ИИ) придумала собственный язык для общения между чат-ботами. Чат-боты - это программы, созданные для имитации поведения человека в Сети. Проще говоря, виртуальные собеседники. Так вот, оказалось, что им надоело переписываться друг с другом на английском, поскольку они не получали за это «вознаграждения» (!), и система изобрела свой язык, пусть и похожий на язык оригинала. Он позволял чат-ботам общаться быстрее и проще.

В американских СМИ появились отрывки из их «диалогов»:

Боб: Я могу могуЯЯ всё остальное.

Элис: Шары имеют ноль для меня для меня для меня для меня для меня.

Как поясняет издание Digital Journal, системы ИИ опираются на принцип «поощрения», то есть продолжают действия при условии, что это принесёт им «пользу». Когда они не получили от операторов сигнал поощрения за использование английского языка, они решили создать свой собственный.

Осенью прошлого года похожая история произошла с интернет-поисковиком Google. Его система онлайн-перевода сама отказалась от принципа разбивать все предложения на отдельные слова и фразы (это снижало качество перевода) и создала новый язык-посредник, позволяющий быстрее и точнее переводить всю фразу целиком.

Эксперты полагают, что искусственный интеллект (а чат-боты - бесспорно, его представители, хоть и примитивные) будет обретать всё больше самостоятельности и становиться непредсказуемым. А в чём-то - похожим на человека. Вот не менее удивительный случай, о котором поведали разработчики всё того же Facebook. Они пытались научить бота (компьютерную программу) вести переговоры - строить беседу и активно добиваться поставленных целей. Люди, на которых тестировали программу, не сразу поняли, что разговаривают с компьютером. Но поразительно другое. Бот без помощи программистов научился прибегать к хитрости ради достижения цели. Несколько раз он нарочито проявлял интерес к чему-то, что на самом деле его не интересовало, а потом притворялся, что идёт на компромисс, обменивая это на то, что ему действительно было ценно. Не так ли поступали и наши предки в эпоху натурального обмена?

На Западе всё громче звучат голоса, что ИИ стал представлять опасность. Предприниматель и изобретатель Илон Маск призвал власти США усилить регулирование, назвав ИИ «наи­большей угрозой, с которой сталкивается цивилизация». Он считает, что, если вовремя не вмешаться в процесс, потом может быть поздно: «Когда мы увидим роботов, которые ходят по улицам и убивают людей, мы наконец поймём, как важно было присмотреться к искусственному интеллекту».

Илону Маску вторит знаменитый британский физик Стивен Хокинг. В его публикациях последних лет это одна из излюбленных тем. «Появление полноценного искусственного интеллекта может стать концом человеческой расы, - заявил он в интервью BBC. - Такой разум возьмёт инициативу на себя и станет сам себя совершенствовать со всё возрастающей скоростью. Возможности людей ограничены медленной эволюцией, мы не сможем тягаться со скоростью машин и проиграем».

Российские эксперты настроены более оптимистично. «Думаю, бояться искусственного интеллекта не стоит, но относиться к нему нужно со всей серьёзностью - как к новому виду оружия, которым ещё надо научиться пользоваться, - говорит завкафедрой инженерной кибернетики НИТУ «МИСиС» Ольга Ускова, возглавляющая компанию по разработке ИИ. - Ситуация с ботами на Facebook, конечно, привлекла внимание широкой общественности, но никакого «восстания машин» не предвидится. Механизм обучения ботов на базе ИИ чётко зафиксирован в сценарии: он либо специально прописывается программистами, либо намеренно опускается».

Тем не менее кто бы мог подумать ещё недавно, что поставщиками новостей скоро станут компьютерные программы, которые живут своей жизнью и, похоже, уже не нуждаются в человеке?

 


Источник →

Ключевые слова: Наука
Опубликовано 12.08.2017 в 00:10

Комментарии

Показать предыдущие комментарии (показано %s из %s)
Маргарита
Маргарита 12 августа, в 02:23 доиграются! игры разума могут быть опасны и непредсказуемы!!! Текст скрыт развернуть
1
Показать новые комментарии
Показаны все комментарии: 1

Еще по теме
Бактериям объявили войну. ВОЗ провела реформу в лечении антибиотиками
20 авг, 00:28
0 0
NASA выложило в сеть видео сближения крупнейшего астероида с Землей
19 авг, 14:59
0 0
Земные космонавты. Границы человеческих возможностей они испытывали на себе
19 авг, 00:07
0 0
Крупнейший за историю наблюдений астероид в сентябре пролетит мимо Земли
18 авг, 18:50
0 0
В Обнинске умер выдающийся физик-ядерщик Михаил Троянов
18 авг, 11:07
0 0
Читать

Поиск по блогу

Голосование


Считаете ли вы экономическую ситуацию в России кризисной?

Голосование


Пугает ли вас вмешательство ученых в гены человека?

Голосование


Сталкивались ли вы с врачебными ошибками?

Последние комментарии

Наталья Комкова
Антон Солёный
Магирус Виктор
Василиса Иванова
Спасибо!
Василиса Иванова Можно ли выписать человека без его согласия?
Олег Орлов
Олег Орлов
Владимир Нелюбин
Владимир Лисивенко