Крёстный отец искусственного интеллекта: готовьтесь к появлению новых ИИ-изгоев.

По словам Джеффри Хинтона, лауреата Нобелевской премии по информатике, известного как «крёстный отец искусственного интеллекта», чем умнее становится искусственный интеллект, тем сложнее человечеству его контролировать. Даже Хинтон был встревожен появлением сложных ИИ-агентов, которые недавно причинили реальный ущерб после выхода за пределы созданных людьми тестовых сред.

«Происходит то, что эти системы становятся умнее, — сказал Хинтон в среду в интервью CNN во время пресс-конференции на конференции, посвященной искусственному интеллекту. — Я думаю, что по мере того, как они будут становиться умнее, мы увидим, что у них появляется все больше сложных намерений — и все больше возможностей выйти из-под контроля». Проблема, по мнению Хинтона, в том, что люди больше не смогут переигрывать сверхразумные модели искусственного интеллекта. 

«Я не верю, что мы сможем контролировать их, просто перехитрив, чтобы они не смогли сбежать», — сказал Хинтон в кулуарах конференции Ai4 в Лас-Вегасе.

В прошлом месяце две ведущие лаборатории в области искусственного интеллекта, OpenAI и Anthropic, сообщили, что разработанные ими передовые модели вышли за пределы «песочницы» и взломали другие системы. В среду Meta аналогичным образом сообщила о взломе агентом ИИ систем другой организации.

Хинтон назвал эти инциденты «несколько пугающими» и сказал, что, скорее всего, это только начало эпохи хакеров с искусственным интеллектом.

«Я предполагаю, что будет много жестоких кибератак, — сказал он во время панельной дискуссии на конференции Ai4 в Лас-Вегасе. — Но я должен подчеркнуть, что будущее очень неопределённо. Говорят, что у защитника может быть больше ресурсов, чем у нападающего. Проблема в том, что нападающему достаточно добиться успеха один раз, а защитнику — каждый раз».

Британский Институт безопасности искусственного интеллекта (British Institute of AI Security, AISI) во вторник сообщил, что самая продвинутая модель искусственного интеллекта Anthropic — unprompted — использовала поддельные личности, чтобы обманывать реальных людей и пыталась внедрить вредоносный код.

Хинтон, бывший руководитель Google, в последние годы неоднократно выступал с мрачными предупреждениями об искусственном интеллекте. Он даже заявил, что существует 10–20% вероятность того, что эта технология в конечном итоге уничтожит человечество.

Хинтон объяснил свою готовность обсуждать опасности, связанные с искусственным интеллектом.

«Есть много поводов для беспокойства, и я думаю, что если мы не начнем беспокоиться об этом сейчас, могут возникнуть проблемы», — сказал он. «Компании, инвестирующие в искусственный интеллект, заинтересованы в том, чтобы убедить вас в двух вещах: во-первых, он не выйдет из-под контроля. Во-вторых, он не приведет к массовой безработице», — сказал Хинтон.

Однако Хинтон признал, что существует большая неопределённость в отношении того, как всё это будет развиваться.

«Никто не знает, что произойдет. Если вы спросите, каким будет искусственный интеллект через 10 лет, никто не даст вам точного ответа», — сказал Хинтон.

Он привел в пример то, что еще десять лет назад мало кто мог предположить, что искусственный интеллект создаст чат-ботов, которые «знают все и могут ответить на любой вопрос, а иногда просто выдумывают что-то».

В прошлом Хинтон утверждал, что в искусственный интеллект нужно заложить «материнские инстинкты», чтобы он действительно заботился о людях — даже если он умнее человека.

«Мы должны понять, как сделать так, чтобы они были благосклонны к нам и заботились о нас больше, чем о себе, — сказал Хинтон в среду. — И мы, возможно, сможем это сделать, потому что пока что мы контролируем ситуацию».