Носителят на Нобелова награда Джефри Хинтън – често наричан „кръстникът” на изкуствения интелект – заяви, че до края на 2026 или 2027 година изкуственият интелект би могъл да предизвика мащабна глобална криза, като например катастрофален срив в енергийните или финансовите системи.
Сравнявайки подобен сценарий с аварията в атомната електроцентрала в Чернобил, той отбеляза, цитиран от Гардиън, че, погледнато назад, вероятно е щяло да бъде по-добре тази технология никога да не бъде разработвана.
Според Хинтън, ръководителите на големи технологични компании – като Мъск, Зукърбърг и Алтман – са напълно наясно с рисковете, но въпреки това поставят печалбата на първо място. Той предупреди, че неконтролираният изкуствен интелект може да доведе до масова безработица, задълбочаване на неравенството и разпадане на обществото.
78-годишният Джефри Хинтън е посветил около 44 години на изследвания в областта на технологиите за изкуствен интелект. Той полага основите на концепцията за невронните мрежи още през 1970 г., а през 2023 г. напуска Google и започва да говори за потенциалните заплахи, произтичащи от AI.
Коментарите му бяха направени преди премиерата на документален филм за изкуствения интелект, в който участват както самият Хинтън, така и бившият му колега Демис Хасабис.
Потенциален инцидент от типа на „Чернобил”
Според оценката на Хинтън, до 2040 г. – а може би и по-рано – ще стане ясно дали обществото е в състояние да управлява рисковете, свързани с AI, и да постигне състояние на „радикално изобилие”. Хинтън обаче добавя: „Може би щеше да е по-добре изобщо да не бяхме създавали изкуствен интелект”.
Алтернативен сценарий включва рязко нарастване на неравенството в богатството, културни кризи и масова безработица.
Хинтън предположи, че сериозен инцидент може да настъпи още в края на 2026 г. или през 2027 г. Като примери той посочи кибератака срещу енергийната мрежа, управлявана от изкуствен интелект, което би довело до мащабно спиране на електрозахранването, или срив, способен да парализира финансовата система за една седмица.
Ученият сравни мащаба на подобен „сигнал за събуждане” с катастрофата в атомната електроцентрала „Чернобил”.
Критика към лидерите в индустрията
Хинтън се изказа остро по адрес на ръководителите на водещи компании в сферата на AI, като заяви, че основният им мотив е увеличаване на пазарния дял чрез пускане на все по-мощни модели изкуствен интелект.
Той сподели, че „няма никакво доверие” на изпълнителния директор на OpenAI Сам Алтман.
По повод Алтман, Марк Зукърбърг и Илон Мъск, ученият отбеляза: „Те разбират рисковете, но не им пука – просто искат парите”.
Идеята за независима регулация
Като предпазна мярка Хинтън предлага въвеждането на задължително, независимо тестване на усъвършенстваните AI модели, преди те да бъдат пуснати на пазара – подобно на процеса за одобрение на лекарствени продукти.
„Нуждаем се от нещо, подобно на Агенцията за контрол на храните и лекарствата (FDA) в САЩ, но за изкуствен интелект: компаниите за AI трябва да бъдат задължени да докажат пред независим орган, че даден модел носи повече полза, отколкото вреда”, подчерта той, давайки за пример трагедията с талидомида.
Талидомидът е лекарство, разработено от германската компания Chemie Grünenthal през 1954 г. То се предлага на пазара като безопасно приспивателно средство и лек срещу сутрешното гадене при бременни жени. Препаратът се е смятал за толкова безвреден, че в много държави се е продавал без рецепта.
Проблемът е открит твърде късно: ако една жена приема талидомид в ранните етапи на бременността (приблизително между 34-тия и 50-ия ден), детето ѝ развива тежки вродени дефекти – най-вече липса или силно скъсяване на крайниците (фокомелия, или крайници, наподобяващи тези на тюлен), както и малформации на вътрешните органи, очите и ушите.
Според оценки, между 12 000 и 20 000 деца по целия свят са се родили с подобни деформации. Около половината от тях са починали в ранна детска възраст. Лекарството е било продавано в повече от 40 държави.
Въпреки това Джефри Хинтън остава предпазлив оптимист. „Вътрешното ми усещане е, че все още контролираме ситуацията”, заключи той.
