Реєстрація    Увійти
Авторизація



PostRoll » У світі » Facebook злякався і відключив штучний інтелект, який заговорив своєю мовою

Facebook злякався і відключив штучний інтелект, який заговорив своєю мовою

Категорія: У світі, Hi-tech
Facebook злякався і відключив штучний інтелект, який заговорив своєю мовою

Керівництво соціальної мережі Facebook змушене було відключити свою систему штучного інтелекту, після того як машини почали спілкуватися власною, неіснуючою мовою, яку люди не розуміли. Боти винайшли свою мову?

Система використовує чат-боти, які спочатку створювалися для спілкування з живими людьми, але поступово почали спілкуватися між собою. Спочатку вони спілкувалися англійською мовою, але в якийсь момент почали переписуватися мовою, яку вони самі створили в процесі розвитку програми.

В американських ЗМІ з'явилися уривки з "діалогів", які вели між собою віртуальні співрозмовники [орфографія і пунктуація збережені].

Боб: Я можу я я все інше.
Аліса: М'ячі мають нуль для мене для мене для мене для мене для мене для мене для мене для мене для.
Боб: Ти я все інше.
Аліса: М'ячі мають м'яч для мене для мене для мене для мене для мене для мене для мене.
Боб: Я я можу я я я все інше.
Аліса: М'ячі мають м'яч для мене для мене для мене для мене для мене для мене для мене.
Боб: Я.
Аліса: М'ячі мають нуль для мене для мене для мене для мене для мене для мене для мене для мене для.
Боб: Ти я я я я я все інше.
Аліса: М'ячі мають 0 для мене для мене для мене для мене для мене для мене для мене для мене для.
Боб: Ти я я я все інше.
Аліса: М'ячі мають 0 для мене для мене для мене для мене для мене для мене для мене для мене для.

Як пояснює видання Digital Journal, системи штучного інтелекту спираються на принцип "заохочення", тобто продовжують дію за умови, що це принесе їм певну "користь". У певний момент вони не отримали від операторів сигналу заохочення на використання англійської мови, тому і вирішили створити свою власну.

Видання Tech Times зазначає, що у роботів з самого початку не було обмежень у виборі мови, тому поступово вони і створили свою мову, якою вони можуть спілкуватися простіше і швидше, ніж англійською.

Програма була навчена робити «ту мову, якою розмовляють люди», а не розвивати власну, і саме це стало помилкою, яка в результаті призвела до новин з побоюванням за майбутнє людства через штучний інтелект (ШІ), що вийшов з-під контролю.

Помилка ця проявилася, коли ботів залишили «наодинці», щоб ще більше розвинути свої навички спілкування. З часом боти відхилилися від прописаних в сценарії правил і почали спілкуватися на «абракадабрі», створеній без участі людини. При більш зручній та швидкій для ШІ формі спілкування правила англійської мови максимально опускалися, а конструкції багаторазово повторювалися.

Подібний інцидент стався зовсім не тому, що роботи вже починають захоплювати світ, а через допущені помилки в програмуванні. Говорячи конкретніше, ботам просто не дали завдання дотримуватися правил граматики і словотвору англійської мови, тому вони почали змагатися в досягненні максимальної ефективності при спілкуванні.

Виявивши проблему, дослідники FAIR відразу ж відключили систему і допрацювали код так, щоб алгоритм дозволяв спілкуватися тільки зрозумілою людині англійською мовою.

Втім, побоювання багатьох в даному випадку теж можна зрозуміти. Якщо боти дійсно придумають «свою» мову для спілкування, зрозуміти їх буде неможливо. Як підмітили в FAIR, білінгвів, які одночасно зрозуміли б ШІ і людські мови, також немає.

Тисни «Подобається» і отримуй свіжі новини на Facebook:




Шановний відвідувачу, Ви зайшли на сайт як незареєстрований користувач. Ми рекомендуємо Вам зареєструватися або зайти на сайт під своїм іменем.

Додати коментар
Ваше Ім'я:
Ваш E-Mail:
Напівжирний Нахилений текст Підкреслений текст Перекреслений текст | Вирівнювання по лівому краю По центру Вирівнювання по правому краю | Вставка смайликів Вставка лінкуВставка захищеного лінку Вибір кольору | Прихований текст Вставка цитати Перетворити вибраний текст з транслітерації в кирилицю Вставка спойлера

Введіть текст, показаний на зображенні: