Харарі: наступні 10 років визначать, чи збереже людство контроль над ШІ

Автор книжок «Sapiens», «Homo Deus» та «Nexus» називає штучний інтелект найбільшим психологічним і соціальним експериментом в історії людства. У розмові з The Economist він наголосив, що зараз суспільство перебуває в точці, де ще може вплинути на те, яким стане майбутнє технології.

Приводом для коментаря став прогноз Ілона Маска, який передбачив, що через десять років ШІ значно перевершить людину за інтелектом і створить світ надмірного достатку, однак люди навряд чи збережуть над ним контроль. Харарі погодився з двома з трьох тез: за нинішніх тенденцій перевершення людського розуму та перехід контролю до алгоритмів виглядають цілком імовірними.

Водночас історик категорично заперечує фатальність такого сценарію. Він зауважує, що теза про неминучість втрати контролю найчастіше звучить від керівників компаній, які розробляють ШІ, і фактично знімає з них відповідальність за наслідки. Натомість, на його думку, вирішальним є не сама інтелектуальна перевага, а те, чи дозволить людство перетворити її на політичний і соціальний контроль.

Показовим є те, що самі технологічні лідери вже вдаються до застережень. На початку червня керівники провідних компаній, зокрема Сем Альтман з OpenAI, Деміс Хассабіс з Google DeepMind, Даріо Амодей з Anthropic, Мустафа Сулейман з Microsoft та Александр Ван з Meta, звернулися до Конгресу США із закликом посилити контроль над замовленнями синтетичної ДНК і РНК, аби запобігти можливому використанню ШІ для створення небезпечних патогенів. Згодом понад сотня компаній, серед яких OpenAI, Google, Microsoft та Amazon, оприлюднили спільне звернення щодо термінового посилення цифрової безпеки через очікувану хвилю кібератак із застосуванням генеративних моделей. Вони запропонували надавати фахівцям із кіберзахисту ранній довірений доступ до найпотужніших систем ще до їхнього офіційного релізу.

Харарі переконаний: якщо перегони у сфері ШІ триватимуть так само, найімовірнішим результатом стане перехід влади до алгоритмів. Однак він підкреслює, що це не є неминучим. «За 10 років ШІ перебере владу. Але це не є неминучим. У 2026 році ми все ще контролюємо ситуацію, і саме ми вирішуємо, що робити далі, — і це має вирішальне значення», — підсумував він.

Раніше футуролог уже висловлював думку, що ШІ може підкорити світ не через війни чи сценарії на кшталт «Термінатора», а через поступове підпорядкування бюрократичних та інституційних систем. Він вважає, що бюрократія є природним середовищем для алгоритмів, тож передача їм контролю над інформаційними потоками в банках, судах і державних органах може підірвати довіру між людьми та призвести до появи мереж ШІ, які ухвалюватимуть рішення автономно.