Ученые считают, что искусственный интеллект впоследствии начнет бороться с людьми

Ученый Дэн Хендрикс отметил, что в будущем искусственный интеллект сможет манипулировать и обманывать людей. Поэтому требуются жесткие ограничения для нейросетей.

Об этом сообщает издание no worries!.

Эгоизм искусственного интеллекта

Директор американского Центра безопасности искусственного интеллекта Дэн Хендрикс заявил, что нынешняя ситуация может привести к такому явлению, как эгоизм искусственного интеллекта.

"Мы утверждаем, что естественный отбор создает стимулы для ИИ-агентов действовать вопреки интересам человека. Наш аргумент основывается на двух наблюдениях. Во-первых, естественный отбор может стать доминантной силой в развитии ИИ. Во-вторых, эволюция путем естественного отбора имеет тенденцию порождать эгоистическое поведение", — написал в своей статье Гендрикс.

Логика Дарвина

По словам ученого, к развитию искусственного интеллекта вполне можно применить принципы естественного отбора, описанные Чарльзом Дарвином.

"Конкурентное давление между корпорациями и военными приведет к появлению ИИ-агентов, которые со временем автоматизируют человеческие роли, начнут обманывать общества и наконец доберутся до власти. Если такие агенты будут иметь интеллект, который будет превышать человеческий, это может привести к тому, что люди просто потеряют". контроль над своим будущим", — предполагает Дэн Хендрикс.

Требуются ограничения

Ученый подчеркнул, что искусственный интеллект уже сейчас способен понимать человеческую психологию и поведение.

В будущем нейросети могут обманывать людей и манипулировать ими.

Поэтому, по мнению Дэна Хендрикса, нужны жесткие ограничения полномочий искусственного интеллекта.

Напомним, что власти Италии запретили гражданам доступ к СhatGPT.

Фото: Pixabay