Cybersecurity expert Janusch Skubatz, Chief Information Security Officer of the EOS Group, with brown hair and white shirt
  • Генеративният AI предлага големи възможности.
  • Компанията майка на EOS, Otto Group, разработи сигурен инструмент, съобразен с нуждите на компанията.
  • Използването му предлага предимства и в сектора за управление на вземания с особено високи стандарти.
Това беше неприятна новина за ръководството на групата за електроника Samsung. През пролетта на 2023 г. бележки от вътрешни срещи и данни за работата на производството внезапно се появиха в интернет. Виновниците не са хакери, а служители на компанията, които са използвали генеративен AI. Един служител, например, използва ChatGPT, за да превърне бележките си от срещата в завършен документ, без да осъзнава, че безплатната версия на AI асистента запазва цялата информация от заданията на своите потребители – и я използва, за да разшири знанията си.

Пример, който показва, че генеративната интелигентност крие и рискове, като например недостатъчна осведоменост на служителите за пропуските в сигурността, липса на корпоративни правила или нови възможности за хакерски атаки. В глобално проучване, проведено от консултантската фирма McKinsey, 53% от всички участници, които вече са работили с генеративен AI, считат за най-големия риск киберсигурността.
 

Ето как много компании виждат киберсигурността като най-големия проблем:

увеличениеувеличение
Graphic with the number 53 percent shows how many companies consider cyber security to be their biggest problem.
Източник: Глобално проучване на McKinsey за AI, 2023 г., „Състоянието на AI през 2023 г.: Година на пробив на генеративния AI“

Подход за безопасно решение за генеративния AI

В същото време генеративният AI предлага на компаниите огромен потенциал за повишаване на тяхната ефективност и иновативна сила. Следователно Otto Group търсеше начин да използва възможностите, предлагани от технологията – като в същото време ограничи рисковете. Под името ogGPT, компанията майка на EOS е разработила свой собствен генеративен AI за 26 000 служители на Групата. „Искахме да създадем решение, което е съобразено със собствените нужди на нашата група, с фокус върху сигурността и защитата на данните“, казва Аня Кьорбер, ръководител на отдел „Изкуствен интелект и автоматизация“. За платената корпоративна версия на Chat GPT не можеше да става и дума – въпреки че този AI асистент не съхранява информацията от заданията. „Сървърите се намират в САЩ“, казва Аня. „Това означава, че в случай на съмнение, местните служители, например, от поддръжката, ще имат достъп до данните. А европейските стандарти като GDPR не важат в САЩ.“

Не много компании имат насоки за използването на AI:

увеличениеувеличение
Graphic with 21 percent shows how many companies have an AI policy.
Източник: Глобално проучване на McKinsey за AI, 2023 г., „Състоянието на AI през 2023 г.: Година на пробив на генеретивния AI“
Проучването на консултантската фирма McKinsey също ясно показва, че има липса по отношение на ръководствата за ползване. Otto Group вече е разгледала този проблем, също и от името на своите дъщерни дружества. В продължение на няколко месеца служителите на Otto Group не само разработиха ръководствато за ползване за AI, но и отделните градивни елементи за ogGPT в различни проекти и хакатони. Това доведе до основна рамка, която актуализира знанията си – включително с данни от интернет – но все още е защитена, обяснява Аня: „ogGPT забравя заданията. Имаме пълен контрол върху данните.“

Основното предимство на ogGPT обаче не е само сигурността. „Искахме функции, които отговарят на нашите изисквания“, казва Аня. Например AI асистентът може да обобщи съдържанието на дълга поредица имейли. ogGPT вече се използва и за писане на бюлетина на Otto Group: докато на читателите на бюлетина преди това бяха предоставени само заглавия, които са свързани с допълнително съдържание, сега те могат да намерят компактни резюмета на съдържанието. Значително подобрение, което би отнело твърде много време, за да се направи ръчно.
 
Portrait of the female expert Anja Körber, Head of Artificial Intelligence & Automation in the Otto Group, with a braid and blazer.

Искахме да създадем решение, което да е съобразено със собствените нужди на нашата група, с фокус върху сигурността и защитата на данните.

Аня Кьорбер
Ръководител на отдел „Изкуствен интелект и автоматизация“, Otto Group
Вътрешното решение също намалява страха на служителите, които трябва да свикнат с интегрирането на генеративен AI в ежедневната си работа, добавя Аня: „Има вътрешни експерти и специализирана общност. Това дава добро усещане на много хора: ако не мога да намеря решение, мога да попитам колега.“

Собственият генеративен AI също е полезен за EOS, дъщерно дружество на Otto, казва Януш Скубац, главен директор по информационна сигурност на EOS Group. Вече са в ход първоначални вътрешни проекти. „Мисля, че ще използваме и ogGPT в бъдеще“, казва той, „но пречките пред защитата на данните при управлението на вземания са особено големи. Когато придобием необслужвани вземания, например, получаваме достъп до данни, които изискват засилена защита.“ Ето защо EOS е обект на по-обширни правила от други компании и често също на договорни изисквания от партньори, казва Януш: „Следователно трябва внимателно да проверим дали технологията трябва да отговаря на допълнителни изисквания.“
 
Cybersecurity expert Janusch Skubatz, Chief Information Security Officer of the EOS Group, with brown hair and white shirt

Заданията към AI в интернет не трябва да използват бизнес информация, която не е предназначена за външния свят.

Януш Скубац
Главен директор по информационна сигурност на EOS Group
Докато компаниите не могат да използват сигурна вътрешна версия на генеративен AI, Януш съветва потребителите във всички индустрии да се придържат към основните правила. EOS вече има наръчник за AI, който се прилага за всички служители.

Извадка от наръчника за AI на EOS Group

  • Действайте отговорно! Въвеждайте данни в обществени системи за изкуствен интелект само ако е напълно подходящо да публикувате данните на уебсайта на компанията.
  • Бъдете внимателни! Генерираните от AI отговори могат да бъдат пристрастни, неточни или неподходящи. Винаги проверявайте резултатите, генерирани от AI инструменти.
  • Внимавайте! Никога не давайте данните си за вход (потребителско име, парола) на инструменти с изкуствен интелект и винаги внимавайте за фишинг методи.
  • Поискайте помощ: Ако не сте сигурни дали имате право да използвате определени данни или кой AI инструмент е безопасен, попитайте вашия колега по информационна сигурност.
Януш обаче вярва, че най-решаващият фактор е редовното взаимодействие с генеративния AI: „Опитът е предпоставка за развиване на усещане за технологията и качеството на резултатите.“ По този начин могат да се избегнат „шокови моменти“ като тези в Samsung и да се използва огромният потенциал на технологията.

Свържете се с нас, ако се интересувате от повече информация.

Снимки: EOS