"Штучний інтелект" не здатен навчатися

Поки збуваються мої прогнози стосовно Дурова та Телеграму (тісний зв’язок з кремлем, вихід під заставу, початок розслідування інших країн), підтверджується інше моє твердження: оцей ваш «штучний інтелект» - інтелектом поки що не можна назвати.

П’ятеро вчених з  британського The University of Bath та німецького Technical University of Darmstadt опублікували дослідження,згідно якого “..Мовні моделі на кшталт ChatGPT не можуть навчатися незалежно або набувати нові навички, і таким чином не становлять загрозу виживання людству”.

Зауважу, що у багатьох теоретичних спорах “а що ж таке інтелект”, саме здатність самостійно навчатися визнається ключовим показником принципової відмінності людського інтелекту від потужних компьютених систем. Створених тим же людським, «природнім» інтелектом.

Іншими словами, те, що нам зараз п(р)одають як “ШІ” – інтелектом не є, про що я і говорив відпочатку. І ось тепер ще й наукових доказів підвезли.

Вчені провели більше тисячі експериментів, в ході яких запропонували сучасним LLM («великі мовні моделі») виконати нетипові завдання, з якими раніше вони ніколи не стикалися і стосовно яких LLM не мали інструкцій. Звісно, більшість завдань були провалені.
Зате LLM чудово впоралися із тими задачами, які були схожі на виконані раніше, або знали як їх виконувати, де брати дані, за якими алгоритмами їх обробляти і все таке. Це називається “навчання в контексті” (ICL) - і з цим сучасні LLM справляються доволі непогано, хоча також не завжди правильно.

Разом з тим, сучасні LLM все ще можуть становити певну загрозу у сенсі створення фейкових відео, вигаданих новин, підробки голосу, що у свою чергу може бути використано для, наприклад, шахрайства. Про один з таких випадків з керівником Ferrari я розказував місяць тому.

Тобто ризик захоплення людства Скайнетом з Термінаторами поки відміняється.

Але менші ризики Так-Званий-Штучний-Інтелект все ж несе, і тому потрібні якісь запобіжники.
Наприклад, вставляти у згенеровані картинки невидаляємі мітки або іншим чином помічати штучно створений матеріал. Чи розвивати сервіси детектування плагіату типу «Цей текст дисертації оригінальний чи штучно скопмільований?» Над цим наразі працюють, наприклад, у Європейському Союзі.
А поки можна припинити пхати букви АІ скрізь, де треба і де не треба: вже трохи забембало.

Artificial – так, Intelligence – сорян, поки що ні. Наразі мова йде лише про першу не дуже вдалу спробу скопіювати людський інтелект.
Крякати навчився точнісінько як качка, але поки що далеко не качка.

Джерело: censor.net/ua/blogs/3507438