Создатели ChatGPT перед увольнением Альтмана предупредили об "угрозе человечеству"

Сотрудники IT-компании OpenAI, создавшей ChatGPT, предупредили совет директоров об открытии "мощного искусственного интеллекта, который может представлять угрозу человечеству". Это произошло перед увольнением с должности генерального директора компании Сэмюэля Альтмана.

Об этом сообщает агентство Reuters.

ChatGPT получит преемника

Речь идет о новом проекте Q, который может стать прорывом в создании всеобщего искусственного интеллекта. Он сможет выполнить любую интеллектуальную задачу, которую поставит перед ним человек.

Сообщается, что Q сможет решать математические задачи на уровне начальной школы. В то же время это может стать ключом к универсальному ИИ, способному достичь потенциала человеческого мозга в широком спектре задач. Поэтому, как пишет издание, разработчики делают большую ставку на математику.

"Сегодняшним генеративным нейромоделям хорошо удается создавать и переводить текст, статистически предполагая следующее слово. Но освоение математики означает, что ИИ будет иметь более широкие возможности рассуждения, напоминающего человеческий интеллект", — пишет Reuters.

В то же время в OpenAI не уточняют, чем именно опасным может быть Q. Исследователи уже давно проводят дебаты об опасности высокоинтеллектуальных машин: например, они могут принять решение об уничтожении человечества.

По словам источника агентства Reuters, в штате сотрудников назревает серьезная обеспокоенность тем, что у OpenAI нет надлежащих мер безопасности для контролируемого развития и коммерциализации подобных моделей ИИ.

Напомним, что ранее Сэмюэля Альтмана уволили с должности гендиректора OpenAI, в результате чего штат покинуть пригрозили более 100 сотрудников. Перед этим он высмеял проект своего экс-бизнес-партнера Илона Маска с искусственным интеллектом.