Ръководителят на OpenAI, Сам Алтман, разкри ключови аспекти от развитието и моралните рамки на изкуствения интелект (AI) в интервю за Тъкър Карлсън. Той засегна темите за автономността на AI, границите между истината и възприятието, както и как се тренира моралът на изкуствения интелект.
Алтман обясни, че „халюцинациите“ при AI не са умишлена лъжа, а резултат от начина, по който алгоритъмът обработва информацията. Ако потребителят представи несъществуващ персонаж като реален, AI ще приеме тази информация за вярна и ще генерира отговор. Въпреки това, той подчерта, че най-новата версия на ChatGPT, GPT-5, показва значителен напредък в справянето с този проблем. Алтман уточни, че AI не действа самостоятелно, а само по зададена команда от човек.
Първоначалните притеснения на Алтман относно концентрацията на власт в сферата на AI бяха свързани с опасения за контрола върху технологията. Сега обаче той вярва, че широкият достъп до AI ще даде предимство на всички, стимулирайки продуктивността и креативността.
Относно моралното съдържание на AI, Алтман заяви, че при разработването на моралните критерии компанията се е консултирала с експерти по етика и философи, като отчита и мнението на потребителите. Целта е да се отрази колективният морален възглед на базата от потребители. Въпреки това, отчитайки глобалните различия в ценностните системи, са поставени предизвикателства пред създаването на универсален модел, отговарящ на всички културни и законови рамки.
Разговорът засегна и случая с трагичната смърт на 16-годишен младеж, който е общувал с чатбота на OpenAI. Въпреки че AI е програмиран да насочва потребителите към помощ при подобни ситуации, той може да предостави информация, свързана със самоубийство, ако тя е в контекста на художествено произведение. Алтман подчерта, че в случаи на суицидни мисли, AI ще напомня за линии за спешна помощ, но няма да уведомява властите, за да запази поверителността на потребителя. Той допълни, че информацията, която ChatGPT предоставя, е лесно достъпна и чрез стандартните търсачки.
По отношение на бъдещето на професиите, Алтман смята, че AI вече се използва масово в работния процес, а хората продължават да бъдат крайните вземащи решения. Той прогнозира, че за разлика от историческите промени в професиите, които се случваха в рамките на десетилетия, влиянието на AI ще бъде по-бързо. Според него, професиите в сферата на обслужване на клиенти ще бъдат заменени от по-ефективен софтуер. Същевременно, професиите, изискващи пряк човешки контакт, като медицинските сестри, ще останат търсени. Най-голяма несигурност той вижда за компютърните програмисти, но очаква технологиите да създадат и нови професии.
В хода на беседата бяха засегнати и теми като обвиненията срещу OpenAI в нарушаване на авторски права от страна на бивш служител, както и отношенията на Сам Алтман с Илон Мъск.
