Макс Джъстиц, главен технологичен директор и съосновател на стартъпа Charge Robotics, използва модел на OpenAI за откриване на критична уязвимост в операционната система Ubuntu. Този софтуерен дефект в широко използваната платформа с отворен код, базирана на Linux, би могъл при евентуална експлоатация да осигури пълен контрол на хакери върху засегнатите сървъри.
Джъстиц, който проявява любителски интерес към сферата на киберсигурността и вече е откривал пропуски в същата кодова база, съобщи за TechCrunch, че е реализирал пробива с помощта на пуснатия през юли GPT 5.6 Sol. Достъпът е осъществен чрез програмата Daybreak Blue на създателя на изкуствен интелект, предоставяща на специалистите по дигитална защита авангардни системи.
По думите на Джъстиц той буквално е насочил ChatGPT към същия този код с молба да намери грешки, аналогични или по-опасни от отстранена преди няколко години уязвимост, като резултатът се е появил само след два часа. Според предприемача намереният проблем е изключително заплетен, труден за засичане от човешко око, но напълно реален и работещ.
За откритието веднага е информиран проектът Debian, администриращ въпросния софтуер, след което беше пусната официална корекция за неутрализиране на слабостта. Към момента няма доказателства за злонамерено използване на дефекта. Лекотата обаче, с която той е засечен, подсказва, че индустрията вижда едва върха на айсберга от възможности, достъпни дори за начинаещи хакери благодарение на изкуствения интелект.
В свои публикации в социалните мрежи Джъстиц изрази очакване през следващите месеци да бъдат открити и експлоатирани редица мащабни грешки, особено при осигурен достъп до модели с по-малко ограничения. Той подчертава, че в момента се разкрива огромно стратегическо предимство при насочването на мощен ИИ инструмент към неодитиран код или бинарен файл.
Технологичният гигант OpenAI вече предприе реални стъпки и обяви, че предоставя своя нов специализиран модел ChatGPT Cyber на потребителите от най-високо ниво в офанзивната програма Daybreak Red. Компанията разкри, че със същия модел е сканирано ядрото на Linux, при което са идентифицирани 948 потенциални проблема и са подготвени корекции. В допълнение OpenAI откри и 81 нови уязвимости в популярния уеб браузър Firefox.
От лабораторията посочват, че целта им е мащабно разширяване на Daybreak чрез осигуряване на съвременни инструменти за сигурност за организации от всякакъв мащаб, независими експерти и поддържащите софтуер с отворен код. OpenAI предупреждава, че времевият прозорец за действие пред защитниците е кратък, преди моделите да станат още по-ефективни в хакването и по-широко достъпни. За самите експерти обаче новите изисквания водят до лавина от задачи, надвишаваща техните сили, като самият Джъстиц признава, че е похарчил около 5000 долара за абонаменти и токени при търсенето на пропуски.
Наред с технологичния достъп OpenAI обяви инициатива за 1 милиард долара в подкрепа на експертите в програмата, които работят върху защитата на критична инфраструктура като електропреносни мрежи и водоснабдяване. Програмата обаче среща критики, след като наскоро възможностите на Daybreak Blue бяха съкратени, намалявайки неговата полезност при откриване на слабости. Макар това да ограничава риска от злоупотреби, специалистите по сигурност се оказват в неравностойно положение спрямо хакерите, разполагащи с отворени модели без никакви предпазни бариери.
Като пример за регулаторните слабости Джъстиц посочва, че се е включил в програмата само чрез представяне на шофьорска книжка. В същото време от OpenAI отчитат, че в Daybreak участват едва хиляди специалисти на фона на потенциално много по-голям брой атакуващи лица. Изследователят от техническия екип на компанията Ерик Уолъс заяви, че в момента безвъзмездно се заделя значителна изчислителна мощ за изчистване на бази данни с отворен код.
Мащабът на разходите за сигурност обаче остава дискусионен – сканирането на Linux струва 1,2 милиона долара, което е значително по-малко от приблизително 6-те милиона долара в токени, вложени в търсене на решение за научен казус от хидроаеродинамиката. На този фон експертите настояват за много по-голяма спешност при защитата на дигиталната инфраструктура, върху която функционира модерният свят.
Темата за технологичната трансформация се следи от журналиста Тим Фърнхолц, който разглежда взаимодействието между високите технологии, финансите и обществените политики. Фърнхолц е автор на книгата „Ракетни милиардери: Илон Мъск, Джеф Безос и новата космическа надпревара“, бивш старши репортер в глобалното бизнес издание Quartz в продължение на повече от десетилетие и дългогодишен политически анализатор от Вашингтон, окръг Колумбия.
