Генеративен AI? Със сигурност!

Това беше неприятна новина за ръководството на групата за електроника Samsung. През пролетта на 2023 г. бележки от вътрешни срещи и данни за работата на производството внезапно се появиха в интернет. Виновниците не са хакери, а служители на компанията, които са използвали генеративен AI. Един служител, например, използва ChatGPT, за да превърне бележките си от срещата в завършен документ, без да осъзнава, че безплатната версия на AI асистента запазва цялата информация от заданията на своите потребители – и я използва, за да разшири знанията си.

Пример, който показва, че генеративната интелигентност крие и рискове, като например недостатъчна осведоменост на служителите за пропуските в сигурността, липса на корпоративни правила или нови възможности за хакерски атаки. В глобално проучване, проведено от консултантската фирма McKinsey, 53% от всички участници, които вече са работили с генеративен AI, считат за най-големия риск киберсигурността.
 

В същото време генеративният AI предлага на компаниите огромен потенциал за повишаване на тяхната ефективност и иновативна сила. Следователно Otto Group търсеше начин да използва възможностите, предлагани от технологията – като в същото време ограничи рисковете. Под името ogGPT, компанията майка на EOS е разработила свой собствен генеративен AI за 26 000 служители на Групата. „Искахме да създадем решение, което е съобразено със собствените нужди на нашата група, с фокус върху сигурността и защитата на данните“, казва Аня Кьорбер, ръководител на отдел „Изкуствен интелект и автоматизация“. За платената корпоративна версия на Chat GPT не можеше да става и дума – въпреки че този AI асистент не съхранява информацията от заданията. „Сървърите се намират в САЩ“, казва Аня. „Това означава, че в случай на съмнение, местните служители, например, от поддръжката, ще имат достъп до данните. А европейските стандарти като GDPR не важат в САЩ.“

Проучването на консултантската фирма McKinsey също ясно показва, че има липса по отношение на ръководствата за ползване. Otto Group вече е разгледала този проблем, също и от името на своите дъщерни дружества. В продължение на няколко месеца служителите на Otto Group не само разработиха ръководствато за ползване за AI, но и отделните градивни елементи за ogGPT в различни проекти и хакатони. Това доведе до основна рамка, която актуализира знанията си – включително с данни от интернет – но все още е защитена, обяснява Аня: „ogGPT забравя заданията. Имаме пълен контрол върху данните.“

Основното предимство на ogGPT обаче не е само сигурността. „Искахме функции, които отговарят на нашите изисквания“, казва Аня. Например AI асистентът може да обобщи съдържанието на дълга поредица имейли. ogGPT вече се използва и за писане на бюлетина на Otto Group: докато на читателите на бюлетина преди това бяха предоставени само заглавия, които са свързани с допълнително съдържание, сега те могат да намерят компактни резюмета на съдържанието. Значително подобрение, което би отнело твърде много време, за да се направи ръчно.
 

Вътрешното решение също намалява страха на служителите, които трябва да свикнат с интегрирането на генеративен AI в ежедневната си работа, добавя Аня: „Има вътрешни експерти и специализирана общност. Това дава добро усещане на много хора: ако не мога да намеря решение, мога да попитам колега.“

Собственият генеративен AI също е полезен за EOS, дъщерно дружество на Otto, казва Януш Скубац, главен директор по информационна сигурност на EOS Group. Вече са в ход първоначални вътрешни проекти. „Мисля, че ще използваме и ogGPT в бъдеще“, казва той, „но пречките пред защитата на данните при управлението на вземания са особено големи. Когато придобием необслужвани вземания, например, получаваме достъп до данни, които изискват засилена защита.“ Ето защо EOS е обект на по-обширни правила от други компании и често също на договорни изисквания от партньори, казва Януш: „Следователно трябва внимателно да проверим дали технологията трябва да отговаря на допълнителни изисквания.“
 

Януш обаче вярва, че най-решаващият фактор е редовното взаимодействие с генеративния AI: „Опитът е предпоставка за развиване на усещане за технологията и качеството на резултатите.“ По този начин могат да се избегнат „шокови моменти“ като тези в Samsung и да се използва огромният потенциал на технологията.