Повечето компании осъзнават нуждата да адресират проблема, но срещат трудности в ефективното справяне с него
Progress, довереният доставчик на софтуер за разработка на приложения и ИТ инфраструктура, обяви днес резултатите от глобалното си проучване „Предубежденията в данните: Скритият риск на изкуствения интелект“. В проучването, проведено от британската специализирана агенция Insight Avenue, участват над 640 бизнес и ИТ лидери от компании с над 500 служители от целия свят, включително и от България. То цели да измери цялостното разбиране за наличието на предубеждения в данните, как те влияят на бизнеса и как компаниите адресират този проблем.
Предубежденията често идват от културните и лични преживявания на хората. Когато данните се събират и използват за обучение на модели за машинно самообучение, тези модели наследяват предубежденията на хората, които ги създават. Това води до неочаквани и ощетяващи резултати. Въпреки потенциалните проблеми от финансов, етичен и правен характер, до които това може да доведе, липсва разбиране за необходимите обучения, процеси и технологии, с които успешно да се адресира проблемът.
Проучването на Progress показва, че 95% от ИТ и бизнес лидерите в България смятат, че ще разчитат повече на изкуствен интелект в процесите на компаниите си за вземане на решения в следващите няколко години, но само 13% имат установени процеси и политики за справяне с наличието на предубеждения в данните. Сред ключовите причини за това са липсата на разбиране на възможните предубеждения в данните (39%) и на добри практики за установяването на подобни нередности (37%).
Резултатите от проучването в България сочат още, че:
• 82% от бизнес и ИТ лидерите смятат, че предубежденията в данните ще се превърнат в по-сериозен проблем с все по-широкото ползване на изкуствен интелект и машинно обучение
• 79% посочват, че към момента в компаниите им съществуват предубеждения в данните
• 76% смятат, че трябва да работят повече в посока справяне с този проблем
• 95% считат, че въвеждането на процеси за елиминиране на предубежденията в данните ще повиши доверието в използването на изкуствен интелект в компаниите им
• 84% твърдят, че разбирането и адресирането на предубежденията в данните е обществен дълг на компаниите, въпреки това само 58% споделят, че лидерите на техните организации са активно ангажирани с решаването на проблема
„Загуба на клиентско доверие, регулаторни проблеми и рискове за сигурността на бизнеса са само част от последствията на наличието на предубеденост в данните и алгоритмите“, каза Симеон Стойчев, вицепрезидент „ИТ инфраструктура и операции” в Progress. „Предотвратяването на предубежденията в данните на ранен етап включва комбинация от технологии, обучения и процеси, а отговорността се носи от всички, които ги използват. Само така можем да сме сигурни, че изкуственият интелект ще работи в полза на хората и бизнеса.“
Глобалното проучване „Предубежденията в данните: Скритият риск на изкуствения интелект“ е базирано на отговорите на бизнес и ИТ лидери от Европа, Азия, Южна Америка и САЩ, които боравят с данни и вече използват или планират да внедрят изкуствен интелект или машинно обучение в процесите си за вземане на решения. Докладът с глобалните резултати е достъпен тук.
