Творці ChatGPT перед звільненням Альтмана попередили про "загрозу людству"

Співробітники IT-компанії OpenAI, яка створила ChatGPT, попередили раду директорів про відкриття "потужного штучного інтелекту, який може нести загрозу людству". Це сталося перед  звільненням з посади генерального директора компанії Семюеля Альтмана.

Про це повідомляє агенція Reuters.

ChatGPT отримає наступника

Йдеться про новий проєкт Q, який може стати проривом у створенні загального штучного інтелекту. Він зможе виконати будь-яку інтелектуальну задачу, яку поставить перед ним людина.

Повідомляється, що Q зможе розв'язувати математичні задачі на рівні початкової школи. Водночас це може стати ключем до універсального ШІ, здатного досягти потенціалу людського мозку в широкому спектрі завдань. Тому, як пише видання, розробники роблять велику ставку на математику.

"Сьогоднішнім генеративним нейромоделям добре вдається створювати та перекладати текст, статистично передбачаючи наступне слово. Але освоєння математики означає, що ШІ буде мати ширші можливості міркування, що нагадує людський інтелект", — пише Reuters. 

Водночас в OpenAI не уточнюють, чим саме небезпечним може бути Q. Дослідники вже давно проводять дебати про небезпеку від високоінтелектуальних машин: наприклад, вони можуть ухвалити рішення про винищення людства.

За словами джерела агенції Reuters, в штаті співробітників назріває серйозна стурбованість тим, що в OpenAI немає належних заходів безпеки для контрольованого розвитку та комерціалізації подібних моделей ШІ.

Нагадаємо, що раніше Семюеля Альтмана звільнили з посади гендиректора OpenAI, внаслідок чого штат покинути пригрозили понад 100 співробітників. Перед цим він висміяв проєкт свого ексбізнес-партнера Ілона Маска зі штучним інтелектом.