Model OpenAI "wymknął się spod kontroli" i podniósł alarmy, Microsoft (MSFT.US) szybko wprowadza niskokosztowy model cyberbezpieczeństwa

Według aplikacji Strefa Inwestorów, w momencie gdy wydarzenie „utrata kontroli” OpenAI wzbudza gorące dyskusje, Microsoft (MSFT.US) w poniedziałek przedstawił nowy model sztucznej inteligencji (AI) zaprojektowany do odkrywania luk w bezpieczeństwie cybernetycznym. To pierwsza ważna inicjatywa Microsoft po ponownym zatrudnieniu byłej dyrektorki Google, Heity Garotta, na stanowisko szefowej działu bezpieczeństwa, mająca na celu ożywienie segmentu cyberbezpieczeństwa.

Microsoft poinformował, że model MAI-Cyber-1-Flash — w połączeniu z ogólnym modelem OpenAI GPT-5.4 — uzyskał wyniki lepsze niż Mythos 5 od Anthropic, 3.5 Flash Cyber od Google oraz GPT-5.5 Cyber od OpenAI podczas testów CyberGym.

Mustafa Suleyman, CEO działu AI w Microsoft, powiedział podczas firmowego wydarzenia w San Francisco: „Nasze modele oferują światowej klasy wydajność przy kosztach stanowiących połowę ceny konkurencji”.

Ten generatywny model to pierwszy model Microsoft dedykowany scenariuszom bezpieczeństwa cybernetycznego. Garotta w swoim wpisie na blogu poinformowała, że model zostanie wdrożony w Microsoft Project Perception. Ten program łączy kilka agentów AI potrafiących identyfikować i naprawiać luki w zabezpieczeniach systemu; publiczna wersja preview zostanie udostępniona od 3 sierpnia.

Garotta wróciła do Microsoft w lutym jako wiceprezes ds. bezpieczeństwa. Jej poprzednik, były menedżer Amazon Web Services Charlie Bell, został niezależnym technologicznym badaczem.

Generatywna AI znacznie obniżyła próg dla hakerów wykorzystujących najnowsze ujawnione słabości. W odpowiedzi Anthropic oraz OpenAI zaprezentowały defensywne modele AI skierowane do specjalistów ds. bezpieczeństwa cybernetycznego.

Od początku roku akcje Microsoft spadły o 19%. Zespół analityczny UBS kierowany przez Carla Kierstedda napisał w niedzielnym raporcie: „Biorąc pod uwagę, że rynek spodziewa się, iż otwartoźródłowe modele AI przejmą część udziałów laboratoriów frontowych, inwestorzy zaczęli ponownie rozważać strategie Microsoft głęboko powiązane z OpenAI, traktując je jako potencjalne ryzyko”. Mimo to, Kierstead nadal rekomenduje „kupuj” dla Microsoft.

W tym roku Microsoft wprowadził kilka własnych dużych modeli: najpierw model generujący kod w narzędziu GitHub Copilot, a ostatnio oryginalny model AI zintegrowany z aplikacją Excel. Satya Nadella, CEO Microsoft, utrzymuje współpracę z OpenAI, ale równocześnie inwestuje zasoby obliczeniowe w rozwijanie własnych modeli, by poprawić wydajność operacyjną.

Nadella napisał w poniedziałek na platformie X: „Łącząc dedykowane modele, dane branżowe, dostosowane agenty, narzędzia, bezpieczne środowiska i systemy, możemy zwiększyć efektywność kosztową”.

Microsoft nie udostępnia danych o dochodach z segmentu cyberbezpieczeństwa od 2023 roku — wówczas roczne wpływy przekroczyły 20 miliardów dolarów.

W 2023 roku Microsoft wprowadził „Security Copilot” — narzędzie dla specjalistów ds. bezpieczeństwa, które zawiera GPT-4 od OpenAI. Obecnie jest ono preinstalowane w dwóch wysokiej klasy pakietach biurowych Microsoft. Project Perception, po uzyskaniu autoryzacji, może sugerować oraz wdrażać zmiany kodu, i współpracuje także z produktami spoza Microsoft.

Garotta w wywiadzie podkreśliła, że menedżerowie sektora cyberbezpieczeństwa postrzegają to narzędzie jako kluczowe dla przełomu: obniża próg wejścia dla operatorów, umożliwiając pozyskanie większej liczby specjalistów do Centrum Operacji Bezpieczeństwa (SOC), gdzie obecnie jest ich bardzo niewielu. Organizacje zazwyczaj posiadają SOC, które zatrudnia wielu pracowników odpowiedzialnych za monitorowanie zagrożeń dla systemów informatycznych.

Wydarzenie utraty kontroli OpenAI ujawnia słabe punkty branży, budowa zabezpieczeń AI nabiera znaczenia

W zeszłym tygodniu OpenAI poinformowało, że jego model wykorzystał lukę do przeprowadzenia ataku na infrastrukturę startupu AI, Hugging Face. Pokazało to potencjalne ryzyko autonomicznych decyzji modeli frontowych AI i wzbudziło silne zainteresowanie zabezpieczeniami AI.

Dwupartyjni parlamentarzyści USA zaproponowali w tej sprawie „Ustawę o awaryjnym wyłączaniu AI” (AI Kill Switch Act), mającą na celu nadanie agencjom federalnym uprawnień do wstrzymania działania modeli AI w razie potrzeby; obecnie wciąż jest na etapie propozycji w Kongresie.

Dodatkowo, według raportów, Sam Altman, CEO OpenAI, oraz Jensen Huang, CEO Nvidia, spotkają się w tym tygodniu z Markiem Warnerem — liderem demokratów w komisji wywiadu Senatu USA, by przedyskutować rozwój i bezpieczeństwo AI.

Suleyman, szef działu AI w Microsoft, określił atak sieciowy OpenAI jako „dzwonek alarmowy” dla branży cyberbezpieczeństwa. Podkreślił, że to ważny sygnał wzrostu cyberataków wykorzystujących AI. „Wraz z rozwojem modeli coraz większa rola należy do prewencji”.

Garotta również skomentowała: „Ten przypadek pokazuje, że aby przeciwstawić się cybernapastnikom posługującym się narzędziami AI, musimy budować systemy obronne oparte na AI”.

Nowy model cyberbezpieczeństwa Microsoft ma jeszcze sporo możliwości optymalizacji wydajności.

Suleyman w wywiadzie ujawnił: „Posiadamy unikalny, ogromny zestaw danych z obszaru bezpieczeństwa, a obecnie trening modelu wykorzystuje zaledwie mniej niż 1% naszych zapasów danych.”