Евгений Сокольский предлагает Вам запомнить сайт «АиФ.ru | Объясняем, что происходит»
Вы хотите запомнить сайт «АиФ.ru | Объясняем, что происходит»?
Да Нет
×
Прогноз погоды

Полезные инструкции от aif.ru


Инструкции на все случаи жизни.

Боты изобрели свой язык. Опасно ли развитие искусственного интеллекта?

развернуть

Боты изобрели свой язык. Опасно ли развитие искусственного интеллекта?

На прошлой неделе руководство Facebook обнаружило, что их система искусственного интеллекта (ИИ) придумала собственный язык для общения между чат-ботами. Чат-боты - это программы, созданные для имитации поведения человека в Сети. Проще говоря, виртуальные собеседники. Так вот, оказалось, что им надоело переписываться друг с другом на английском, поскольку они не получали за это «вознаграждения» (!), и система изобрела свой язык, пусть и похожий на язык оригинала. Он позволял чат-ботам общаться быстрее и проще.

В американских СМИ появились отрывки из их «диалогов»:

Боб: Я могу могуЯЯ всё остальное.

Элис: Шары имеют ноль для меня для меня для меня для меня для меня.

Как поясняет издание Digital Journal, системы ИИ опираются на принцип «поощрения», то есть продолжают действия при условии, что это принесёт им «пользу». Когда они не получили от операторов сигнал поощрения за использование английского языка, они решили создать свой собственный.

Осенью прошлого года похожая история произошла с интернет-поисковиком Google. Его система онлайн-перевода сама отказалась от принципа разбивать все предложения на отдельные слова и фразы (это снижало качество перевода) и создала новый язык-посредник, позволяющий быстрее и точнее переводить всю фразу целиком.

Эксперты полагают, что искусственный интеллект (а чат-боты - бесспорно, его представители, хоть и примитивные) будет обретать всё больше самостоятельности и становиться непредсказуемым. А в чём-то - похожим на человека. Вот не менее удивительный случай, о котором поведали разработчики всё того же Facebook. Они пытались научить бота (компьютерную программу) вести переговоры - строить беседу и активно добиваться поставленных целей. Люди, на которых тестировали программу, не сразу поняли, что разговаривают с компьютером. Но поразительно другое. Бот без помощи программистов научился прибегать к хитрости ради достижения цели. Несколько раз он нарочито проявлял интерес к чему-то, что на самом деле его не интересовало, а потом притворялся, что идёт на компромисс, обменивая это на то, что ему действительно было ценно. Не так ли поступали и наши предки в эпоху натурального обмена?

На Западе всё громче звучат голоса, что ИИ стал представлять опасность. Предприниматель и изобретатель Илон Маск призвал власти США усилить регулирование, назвав ИИ «наи­большей угрозой, с которой сталкивается цивилизация». Он считает, что, если вовремя не вмешаться в процесс, потом может быть поздно: «Когда мы увидим роботов, которые ходят по улицам и убивают людей, мы наконец поймём, как важно было присмотреться к искусственному интеллекту».

Илону Маску вторит знаменитый британский физик Стивен Хокинг. В его публикациях последних лет это одна из излюбленных тем. «Появление полноценного искусственного интеллекта может стать концом человеческой расы, - заявил он в интервью BBC. - Такой разум возьмёт инициативу на себя и станет сам себя совершенствовать со всё возрастающей скоростью. Возможности людей ограничены медленной эволюцией, мы не сможем тягаться со скоростью машин и проиграем».

Российские эксперты настроены более оптимистично. «Думаю, бояться искусственного интеллекта не стоит, но относиться к нему нужно со всей серьёзностью - как к новому виду оружия, которым ещё надо научиться пользоваться, - говорит завкафедрой инженерной кибернетики НИТУ «МИСиС» Ольга Ускова, возглавляющая компанию по разработке ИИ. - Ситуация с ботами на Facebook, конечно, привлекла внимание широкой общественности, но никакого «восстания машин» не предвидится. Механизм обучения ботов на базе ИИ чётко зафиксирован в сценарии: он либо специально прописывается программистами, либо намеренно опускается».

Тем не менее кто бы мог подумать ещё недавно, что поставщиками новостей скоро станут компьютерные программы, которые живут своей жизнью и, похоже, уже не нуждаются в человеке?

 


Источник →

Ключевые слова: Наука
Опубликовано 12.08.2017 в 00:10

Комментарии

Показать предыдущие комментарии (показано %s из %s)
Маргарита
Маргарита 12 августа, в 02:23 доиграются! игры разума могут быть опасны и непредсказуемы!!! Текст скрыт развернуть
1
Показать новые комментарии
Показаны все комментарии: 1

Еще по теме
Ученые нашли на Курильских островах около 30 новых видов живых организмов
22 ноя, 11:18
0 0
Титановая глазница. Где в России делаются современные медицинские импланты
22 ноя, 00:06
0 0
Ученые предупредили об увеличении числа катастрофических землетрясений
21 ноя, 04:57
0 0
Астронавт снял падение метеорита с МКС
19 ноя, 08:05
0 0
В Китае медики впервые в мире провели пересадку человеческой головы
17 ноя, 19:25
0 0
Читать

Поиск по блогу

Голосование


Считаете ли вы экономическую ситуацию в России кризисной?

Голосование


Пугает ли вас вмешательство ученых в гены человека?

Голосование


Сталкивались ли вы с врачебными ошибками?

Последние комментарии

Андрей Голубев
Деликатесы!
Андрей Голубев В пище курсантов ВВС Украины обнаружили червей и тараканов
Homo Sapiens
Светлана Смородина
Вячеслав Молодцов
татьяна быковская
николай владимирович владимирович
Геннадий Кислов
Татьяна Шапорева