Индустрията за изкуствен интелект (ИИ) е обхваната от остър дебат относно това дали нейните технологии представляват екзистенциална заплаха за човечеството. Дискусията ескалира, след като изследователят Джейкъб Коксън напусна Anthropic, изразявайки опасения, че компаниите „си играят с живота ни“. В отговор ръководителят по съгласуваността на компанията заяви, че искрено вярва в риск от ИИ за човечеството, оценявайки вероятността на „>10% през следващото деселотие“.
В подкаста Equity на TechCrunch се обсъдиха тези апокалиптични прогнози и мотивите зад тях. Една от водещите тези е, че подобни изявления могат да бъдат „странен начин за фукане“ с възможностите на моделите, особено в контекста на предстоящи първични публични предлагания (IPO). Експертите поставиха под въпрос дали такива рискове ще намерят място в S-1 документацията на Anthropic и как това би повлияло на бизнес оценките им.
Шон О'Кейн отбеляза, че напускането на Коксън подчертава сериозността на ситуацията, тъй като той действа в съответствие с убежденията си, за разлика от много други, които само теоретизират. Дискусията засегна и въпроса дали компаниите всъщност имат контрол над своите модели, предвид докладите за вътрешни агенти с неограничен достъп. Това повдига въпроси относно компетентността на управление при водещите играчи като OpenAI и Anthropic.
Кърстен Коросек посочи, че в днешната пазарна среда дори опасните аспекти на технологиите могат да бъдат интерпретирани като доказателство за висока мощност, което потенциално повишава оценката на компанията. Въпреки това, Антъни Ха подчерта, че този фокус върху „гибелта от ИИ“ често измества дебата от по-непосредствени проблеми като влиянието върху пазара на труда и климата. Истерията около суперинтелигентността рискува да погълне ресурсите, необходими за реални регулаторни предпазни мерки.
