2 863 10

Агенти с изкуствен интелект проговориха на непознат за хората език

Facebook спря принудително системата с ИИ след инцидента

Снимка: Shutterstock
Снимка: Shutterstock
Венелина Маринова

Изследователи на Facebook бяха принудени да спрат една от машините си с изкуствен интелект, след като откриха, че е започнала да комуникира на език, който те не могат да разберат. Инцидентът напомня за главния антагонист Скайнет в култовия филм "Терминатор". Може би главният изпълнителен директор на Tesla Илон Мъск е прав за това, че изкуственият интелект (ИИ) е "най-големият риск, пред който сме изправени".

В случая, принудил изследователите да дръпнат щепсела на машината с изкуствен интелект, върху която работили, системата не е започнала да спира компютрите по света или нещо подобно, но спряла да използва английски и започнала да използва език, който създава сама.

Боб: "Аз мога мога аз аз всичко останало.

Алис: "Топките са нулеви за мен, за мен към мен за мен при мен за мен при мен."

Горните пасажи, които са безсмислени за хората, са част от разговор между двама агенти с ИИ, разработени от Facebook изследователите. Агентите на ИИ системата, създадени да преговарят с хора, първо си говорили помежду си, използвайки обикновен английски език, но в крайна сметка създали нов език, който само те разбират.

Агентите с ИИ не били настроени да са ограничени само до английски език, и така създали език, който да улесни и ускори комуникацията им. Изследователите на Facebook обаче решили да изключат ИИ агентите и да ги настроят да говорят един на друг само на английски.

Каква би била вредата, ако се оставят агентите с ИИ да комуникират помежду си на език, който са изобретили сами?

На първо място, хората няма да разбират какво си говорят системите за ИИ, използващи собствения си език. Системите за ИИ имат изключително сложни скрити мисловни процеси, които хората не са в състояние да разберат, а ако започнат и да говорят на непознат за тях език, тайната им ще бъде още по-опасна.

Ако агентите с ИИ имат право да говорят на език, който сами са създали, те вече нямат да имат нужда дори от човешка намеса. Според Мъск хората трябва да се страхуват от изкуствения интелект и поиска от управниците на САЩ да приложат регламенти относно технологията.

"Запознат съм с най-модерните системи с ИИ и мисля, че хората трябва да бъдат наистина загрижени за това", каза изпълнителният директор на Tesla по-рано този месец на лятната среща на Асоциацията на националните губернатори в Роуд Айлънд.

"Системите с изкуствен интелект могат да правят доста неща по-добре от хората и, ако не се държат под контрол, ще се превърнат в нещо, което може да ни замести изцяло."



Коментари

Коментарите са сортирани от стари към нови
  • 111
    Отговор
    1 12:04  10.08.17
    Започва се.
  • АрНиТуУ
    Отговор
    2 12:12  10.08.17
    I'll be back!

    Коментиран от #3

  • DUN
    Отговор
    3 15:13  10.08.17

    До коментар #2 от "АрНиТуУ":

    You will be back.. ама Арни е в преклонна възраст и не знам кой ще спаси този път света!;-)
  • Тео сапуна
    Отговор
    4 19:46  10.08.17
    Нищо повече от РЕКЛАМА .

  • коцето
    Отговор
    5 22:07  10.08.17
    А сетете се ако направят квантов комп. и го свържат с ИИ
  • Ощърбий
    Отговор
    6 22:51  10.08.17
    Еволюция. :)
  • Гост
    Отговор
    7 08:57  11.08.17
    The Matrix - началото
  • Направи си сам
    Отговор
    8 00:02  12.08.17
    Началото на края....
  • T-1000
    Отговор
    9 01:24  12.08.17
    Помни : Генезис е скай нет!
  • БолгАрия
    Отговор
    10 14:51  12.08.17
    Изкуствен интелект, означава все пак интелект, нали?!? Е, сега кажете ми, кой ИНТЕЛЕКТ би разговарял на такъв елементарен, варварски език на единствените канибали в Европа?!? Само хора БЕЗ ИНТЕЛЕКТ биха го използвали...

Напиши коментар:


Публикувай