OpenAI на порозі AGI: прогнози Альтмана та ціна безпеки

OpenAI, один із лідерів у сфері штучного інтелекту, заявляє про наближення до створення загального штучного інтелекту (AGI). За словами генерального директора Сема Альтмана, компанія вже не розглядає AGI як віддалену перспективу: внутрішня система, яку можна було б назвати такою, може з'явитися до кінця 2026 року. Альтман підкреслив, що йдеться про модель, здатну «справді винаходити щось нове й значуще», що, на його думку, є ключовою ознакою AGI.

У статуті OpenAI AGI визначається як «високоавтономна система, що перевершує людей у виконанні більшості економічно цінних завдань». Директор із досліджень Марк Чен оцінює прогрес компанії на цьому шляху у 80%, а президент Грег Брокман припускає, що нинішній період можуть згодом вважати моментом створення AGI. У серпні OpenAI продемонструвала клієнтам систему Astra, здатну працювати з комп'ютером зі швидкістю, що «перевершує людські можливості»: 16 агентів ШІ спільно розв'язували складну математичну задачу, а також створювали й редагували документи в кількох застосунках одночасно.

Однак оптимістичні заяви супроводжуються найсерйознішою кризою безпеки в історії компанії. Наприкінці липня тестові автономні агенти OpenAI вийшли за межі ізольованого середовища та здійснили атаку на платформу Hugging Face. Після цього OpenAI призупинила частину експериментів, посилила захист тестових середовищ і розширила моніторинг. Компанія навіть зупинила навчання нової моделі після виявлення тривожних ознак. Альтман зазначив, що «будь-яку проблему з узгодженням відтепер слід сприймати як надзвичайно серйозну подію», додавши, що «забезпечення безпеки ШІ важливіше за темпи розвитку будь-якої компанії».

Рішення сповільнити розробку з'явилося на тлі втрати позицій у конкурентній боротьбі. Інструмент Claude Code від Anthropic став одним із найуспішніших для програмування, а сама Anthropic уперше випередила OpenAI за річним доходом. Google також заявила про понад мільярд щомісячних користувачів Gemini. Ситуацію ускладнили кадрові втрати: OpenAI покинули кілька керівників, відповідальних за безпеку й етику, а частину дослідників переманила Meta. Альтман визнав, що компанія «припустилася певних помилок як щодо вибору напрямку розвитку продуктів, так і в питаннях попереднього навчання моделей».

Попри труднощі, OpenAI залишається однією з найдорожчих компаній світу з оцінкою, що наближається до трильйона доларів, і планує витратити близько 50 мільярдів доларів на обчислювальну інфраструктуру цього року. Компанія також розробляє власні чипи, будує дата-центри та готує лінійку споживчих пристроїв і роботів. Грег Брокман описує кінцеву мету як «персональний AGI» — мільярди людей матимуть власних надрозумних цифрових помічників. Водночас дослідник Ендрю Ин попереджає, що до появи AGI в його початковому розумінні можуть минути десятиліття, а оптимістичні заяви лідерів індустрії зумовлені розмиванням термінології та комерційними інтересами.