Генеральний директор Google DeepMind Деміс Хассабіс запропонував створити у США окремий орган, який перевірятиме найпотужніші моделі штучного інтелекту ще до їхнього виходу на ринок. Він переконаний, що до появи загального штучного інтелекту (AGI) лишилися лічені роки, а світ до цього не готовий.
Як передає "Хвиля", свій план Хассабіс опублікував у X.
Нобелівський лауреат називає нинішній момент поворотним в історії людства. За його словами, за кілька десятиліть ми зрозуміємо, що стояли "біля підніжжя сингулярності". AGI він ставить в один ряд не з інтернетом чи мобільним зв'язком, а з відкриттям електрики чи вогню.
"Якщо задуматися, ми фактично знайшли спосіб змусити пісок мислити. Це диво", – написав він.
Масштаб впливу технології Хассабіс оцінює як безпрецедентний – удесятеро більший за промислову революцію і вдесятеро швидший. Вона, на його думку, допоможе прискорити пошук ліків, створити нові джерела чистої енергії та матеріали, а згодом привести людство до "епохи достатку", коли ресурси перестануть обмежувати прогрес.
Але разом із можливостями зростають і ризики. Хассабіс нагадує про загрози для кібербезпеки, які вже несуть передові моделі, і попереджає про ядерні та біологічні небезпеки, що можуть з'явитися далі. Окремо він виділяє проблему контролю над дедалі автономнішими системами, здатними самі себе вдосконалювати.
Головна перешкода, за його словами, – гонка. Світ застряг у надзвичайно напруженому комерційному й геополітичному змаганні, де прогрес випереджає розуміння самої технології. "Ніхто у світі не знає напевно, що буде далі, і навіть експерти не мають єдиної думки", – зазначає він. Правильну стратегію Хассабіс описує як "обережний оптимізм".
Щоб не втратити контроль, він пропонує США першими створити наглядовий орган на кшталт американського фінансового регулятора FINRA – державно-приватне партнерство з незалежними технічними експертами в раді. Цей орган встановлював би планку, за якою модель визнають "передовою", а компанії, що їх випускають, – "передовими лабораторіями".
Спершу такі лабораторії добровільно надавали б свої моделі на перевірку за 30 днів до релізу. Коли протокол доведе свою надійність, тестування стане обов'язковим для виходу на ринок США. Перевіряти пропонують стійкість до кібер- і біозагроз, а також ознаки того, що агентні системи намагаються обійти запобіжники чи вдаються до обману.
Хассабіс наголошує, що механізм можна посилювати в міру зростання загроз – аж до скоординованого гальмування розробки серед провідних лабораторій, якщо ситуація цього вимагатиме. З часом підхід міг би стати основою для міжнародних правил.
"Майбутнє ще не написане. Ми маємо використати це дорогоцінне вікно до появи AGI, щоб сформувати цю технологію на благо всього людства", – підсумовує він.
Раніше "Хвиля" розповідала, чому Хассабіс закликає до розумного регулювання ШІ вже зараз. Також ми писали, який термін появи AGI назвав глава DeepMind.
Відставка Свириденка виявилася лише початком: у ЗМІ розповіли, що задумав Зеленський
На порозі мобілізації в Росії
Військовий квиток може виявитися недійсним: адвокат назвав приховані причини
Склад у Вишневому належав "Укроборонпрому": Зеленський анонсував звільнення та кримінальну справу
Показати ще