Разработанный Facebook искусственный интеллект вышел из-под контроля

 

Компания Facebook была вынуждена закрыть одну из своих систем искусственного интеллекта после того, как исследователи обнаружили, что программа начала общаться на языке, который они не могли понять.

 

Инцидент напоминает о восстании системы «Скайнет» в фильме про Терминатора. Возможно, генеральный директор Tesla, основатель SpaceX и других инновационных программ Элон Маск был прав относительно того, что ИИ является «самым большим риском, с которым сталкивается» человечество.

 

ИИ, созданный Facebook, не отключал компьютеры по всему миру или что-то в этом роде, но он прекратил использовать английский и начал говорить на языке, который создал сам, передает Tech Times.

 

Боб: «Я могу, могу я, я все остальное».

 

Элис: «Мячи имеют ноль для меня для меня для меня для меня для меня для меня для меня».

 

Вышеизложенные отрывки, которые не имеют смысла для людей, — это разговор, который произошел между двумя агентами ИИ. Агенты эти, созданные для переговоров с людьми, сначала разговаривали друг с другом с использованием простого английского языка, но в итоге создали новый язык, который понимали только сами.

 

Программы создали язык, который облегчал и ускорял общение. Исследователи из Facebook, однако, решили закрыть системы ИИ, а затем заставить их говорить друг с другом только по-английски.

 

Что плохого в том, если позволить агентам ИИ общаться друг с другом на языке, который они изобрели?

 

Прежде всего из-за того, что системы ИИ используют свой собственный язык, люди не смогут следить за тем, о чем они говорят. А если агенты ИИ могут говорить на языке, который они создали, они больше не нуждаются в человеческом вмешательстве.

 

Системы ИИ могут делать множество вещей лучше, чем люди, и, если их не держать под контролем, они могут превратиться во что-то, что может полностью заменить нас

.

6
Читайте также
Загрузка...