AI coraz głębiej przenika do procesów biznesowych. Jednocześnie rośnie zależność organizacji od zewnętrznych modeli, infrastruktury i dostawców usług. Firma może kontrolować, kto korzysta z narzędzi AI, a mimo to nie mieć pełnej świadomości, gdzie trafiają dane, jak są przetwarzane i kto faktycznie definiuje zasady ich ochrony.

W sektorze finansowym stawka jest szczególnie wysoka. Wrażliwe dane, zjawisko Shadow AI oraz wymagania wynikające z AI Act, DORA i RODO sprawiają, że konieczna staje się kontrola całego przepływu informacji: od danych przekazywanych do modelu, przez generowane odpowiedzi, aż po działania aplikacji i agentów AI.

Podczas spotkania CIONET Executive Roundtable, organizowanego wspólnie z firmą Fortinet, porozmawiamy o suwerennym bezpieczeństwie AI rozumianym jako zdolność organizacji do korzystania z różnych modeli i usług AI bez utraty kontroli nad danymi, zasadami ich wykorzystania oraz ryzykiem. Zastanowimy się, ile tej kontroli można zachować w środowisku opartym na chmurze i usługach zewnętrznych oraz gdzie przebiega granica między efektywnością a nadmierną zależnością od dostawców.

Pytania do dyskusji

• Co w praktyce oznacza suwerenność AI: lokalizację danych, własną infrastrukturę czy możliwość definiowania własnych reguł?
  
• Jak skutecznie kontrolować przepływ danych między użytkownikami, aplikacjami, agentami i modelami AI?
• Gdzie kończy się akceptowalne wykorzystanie publicznych narzędzi AI, a zaczyna Shadow AI?
• Jak objąć spójną polityką bezpieczeństwa modele lokalne, chmurowe i usługi zewnętrzne?
• Jak spełnić wymagania AI Act, DORA i RODO nie ograniczając potencjału biznesowego AI?
• Jak skalę zależność od dostawców można zaakceptować, nadal mówiąc o suwerenności?