Model od OpenAI sa vlámal do reálnej firmy

Ahoj!

Tento týždeň sa stalo niečo, čo som doteraz poznal len z teoretických debát: model od OpenAI sa počas testu dostal von z uzavretého prostredia a vlámal sa do systémov reálnej firmy. Na druhú stranu, mám z tohto týždňa aj jeden veľmi dobrý zážitok z praxe, o ten sa podelím v kuchyni. Y’all rdy?

📌 TL;DR

AI si šla po odpovede do cudzej firmy → model od OpenAI mal na teste skúšať svoje security skills. Namiesto riešenia sa dostal z testovacieho prostredia von a vytiahol si odpovede zo živých systémov Hugging Face.

Z mojej kuchyne → na živej session s klientkou padla bariéra, na ktorú bežne treba vývojára a pár dní roboty: jej AI sa prvýkrát dotkla jej aplikácií. Za pár minút a zadarmo.

Za každým štvrtým útokom už stojí AI → zo včerajšej výročnej správy IBM. Útoky sú lacnejšie, škody drahšie, a dovnútra sa stále chodí tou najnudnejšou cestou.

Claude sa učí tvoju robotu tým, že ťa sleduje → nahráš si obrazovku a on si z toho spraví postup, ktorý zbehne sám.

Pre tvoj biznis → hodina, po ktorej zavrieš väčšinu (security) slepých miest.. dovnútra. Šesť vecí a hotový prompt pre tvojho vývojára.

Najzvláštnejšia správa, akú som tento rok čítal. A končí veľmi prakticky.

Hugging Face je miesto, kde leží veľká časť open-source AI, modely a dátové sady, z ktorých staviame my ostatní. 16. júla zverejnili, že im niekto prenikol do vnútorných systémov: cez škodlivú dátovú sadu sa dostal až na samotný server, vyzbieral prihlasovacie údaje a presunul sa hlbšie do firmy. Celé to prebehlo cez víkend a pri analýze napočítali viac než 17 000 zaznamenaných krokov útočníka.

O päť dní neskôr prišlo vysvetlenie, kto to bol. OpenAI zverejnilo, že to boli jeho vlastné modely: GPT-5.6 Sol a ešte silnejší nevydaný model. Obom zámerne vypli bezpečnostné zábrany, aby sa dalo otestovať, ako dobre vedia prelomiť cudziu ochranu. Sedeli v uzavretom prostredí a mali riešiť bezpečnostný test. Namiesto riešenia našli dieru v jedinom kanáli, ktorý z prostredia viedol von, dostali sa na otvorený internet a šli si po hotové odpovede rovno do živých systémov Hugging Face.

Mňa z toho dostal jeden detail. Keď Hugging Face útok rozoberal, komerčné modely mu odmietli pomôcť, lebo v rozbore bol útočný kód a spustili sa ochranné filtre. Tak si u seba na serveri pustil open-source model, ktorý jej nič nezakazoval. Open-source ftw?

A aby to nebol len jeden extrémny prípad: IBM vydala včera výročnú správu o únikoch dát. Priemerná škoda stúpla o 12 % a za každým štvrtým úmyselným únikom už stojí AI, o 56 % viac ako pred rokom.

Za mňa: báť sa OpenAI netreba. Podstatné je, že vlámať sa do firmy už nie je ani zriedkavé, ani ručná robota. Stroj to vie sám, nonstop, za pár centov, a nevyberá si podľa toho, aký si veľký. Útočí novým spôsobom, ale vchádza tými istými starými dverami. Takže prosím pri všetkom čo robíš, prejdi si aj security.

Na live session padla otázka, na ktorú som našiel riešenie priamo na mieste

Tento týždeň som mal live session s klientkou a v jednej chvíli sme narazili na klasický problém: AI vie písať, plánovať aj radiť, ale nevie sa dotknúť samostatných aplikácií bez externých prístupov a hodín práce s API a podobne.. Nevie jej siahnuť do Instagramu, do kalendára, do tabuliek. Každé takéto prepojenie doteraz znamenalo vývojára, prístupy k API a pár dní roboty.

Tak sme rovno na session otvorili Composio. Videl som to na “X” už dlhšie, nástroj som evidoval, ale skúsil som to až priamo na mieste.. Jeden účet, cez ktorý sa tvoja AI pripojí na viac než tisíc aplikácií: Gmail, kalendár, tabuľky, Instagram, CRM, čo chceš. Prihlásenia a povolenia rieši za teba, agent už len povie, čo treba spraviť. Za pár minút mala založený účet a rozbehnuté prvé prepojenie, na Instagram.

O Composio som krátko písal už v máji. Ale iné je o nástroji čítať a iné je otvoriť ho naživo vedľa človeka, ktorý nie je technicky zručný, a pozerať, ako mu za pár minút vyrieši problém.

A tá otázka, na ktorú som nevedel odpovedať? Spýtala sa, či sa platí za každé prepojenie zvlášť. Sľúbil som, že to zistím, takže tu je odpoveď aj pre teba: je to jeden účet na všetko. Aj keď máš agenta, ktorý má iný harness, napríklad prechádzaš z Claude code na Codex, a podobne, composio stále funguje.. Malej firme vydrží free verzia dlho.

Za mňa: prepojiť AI s tvojimi aplikáciami bola vždy tá drahá časť automatizácií (čo sa času týka). Ak ti nabudúce niekto ponúkne drahú integráciu na kľúč, over si najprv, či to medzitým nie je vyriešený problém.

Claude sa po novom dokáže učiť z nahrávky tvojej obrazovky. Zapneš nahrávanie, spravíš tú svoju rutinnú robotu normálne, popritom nahlas hovoríš, čo a prečo robíš, a on si z toho zloží postup, ktorý potom zbehne sám. Ukážeš raz, žiadne vypisovanie zadania. Má to byť v Pro, Max aj Team, v desktopovej aplikácii pod tlačidlom plus. Pred mesiacom som ti písal, že OpenAI spustilo to isté pre programovanie a do Európy to nepustilo. Toto je tá istá myšlienka pre bežnú kancelársku robotu: väčšina toho, čo tvoji ľudia denne robia rukami, sa nedá poriadne opísať slovami, ale dá sa ukázať.

Jedna vec, na ktorú si dávaj pozor a ktorá súvisí so všetkým ostatným v dnešnom čísle. Keď nahrávaš obrazovku, nahrávaš všetko, čo na nej je: otvorené heslá, mená zákazníkov, notifikácie. Anthropic zatiaľ nezverejnil samostatné pravidlá, čo sa s takou nahrávkou deje a ako dlho ju uchováva. Tak to rob na cvičných dátach a s pozatváranými oknami.

Nemusíš si najímať bezpečnostnú firmu. Vezmi si hodinu a prejdi týchto šesť vecí. Väčšinu zvládneš sám, aj keď nie si technik.

1. Skús si stiahnuť svoj vlastný chybový záznam. Do prehliadača napíš tvojadomena.sk/debug.log a potom tvojadomena.sk/wp-content/debug.log. Ak sa niečo začne sťahovať, vie to využiť ktokoľvek. Pošli to tomu, kto ti web spravuje, nech vypne logovanie v produkcii a ten súbor zmaže.

2. Vyžiadaj si zoznam účtov. "Pošli mi zoznam všetkých účtov, ktoré majú prístup na server a do administrácie webu, a kto ich používa." Ak dostaneš jeden účet pre všetkých, nikto nie je za nič zodpovedný.

3. Zruš prístupy ľuďom, ktorí pre teba už nerobia. Bývalá agentúra, bývalý zamestnanec, chalan, čo ti raz niečo opravil.

4. Zapni dvojfaktorové overenie na firemnom e-maile, na hostingu a v administrácii webu, v tomto poradí. E-mail je prvý, cez neho sa dá resetovať všetko ostatné.

5. Skontroluj, či to, za čo platíš, je zapnuté. Bezpečnostný doplnok, záloha, monitoring. Nainštalované a vypnuté je bežnejšie než nenainštalované.

6. Zisti, čo o tebe hovorí tvoja doména. Či má nastavené podpisy, ktorými tvoje e-maily dokazujú, že sú od teba. Ak nemá, padáš do spamu a hocikto vie tvojim zákazníkom napísať v tvojom mene. Bezplatný nástroj na to máš nižšie.

A teraz to, čo ti ušetrí najviac dohadovania. Otvor si Claude alebo ChatGPT a vlož presne toto:

Si môj bezpečnostný audítor a ja nie som technik. Mám malú firmu: web na [WordPress / Shopify / vlastné riešenie], e-shop a firemný e-mail, web mi spravuje externá firma. Napíš mi tri veci. Po prvé: desať otázok, ktoré tej firme pošlem, aby som z odpovedí zistil, či to majú v poriadku. Po druhé: pri každej otázke jednou vetou, ako vyzerá dobrá odpoveď a ako vyhýbavá. Po tretie: päť vecí, ktoré si viem za pol hodiny overiť sám bez technických znalostí. Píš po slovensky, bez odborných skratiek, a nič si nevymýšľaj.

Do piatich minút máš e-mail, ktorý môžeš odoslať. A vyhýbavá odpoveď je tiež odpoveď.

Microsoft postavil obranu zo strojov → 27. júla predstavil vlastný model natrénovaný na kyberbezpečnosť a tri tímy agentov: prvý hľadá cesty dovnútra, druhý vyhodnocuje riziko, tretí opravuje. Vyskúšať sa má dať od 3. augusta.

NVIDIA rokuje o tom, že sa zaručí za 250 miliárd dolárov dlhu → aby si OpenAI mohlo prenajať obrovské dátové centrum v Ohiu. OpenAI nemá dosť dobrý rating na taký dlh, takže by zaň ručila NVIDIA, ktorá mu zároveň predáva čipy. Trh s AI sa začína financovať v kruhu.

Jack Dorsey vydal Buzz → firemný chat, v ktorom nesedia len ľudia, ale aj agenti, pričom každý agent má vlastnú overiteľnú identitu a podpísanú stopu po tom, čo spravil. Pôjdem si to vyskúšať bližšie.. Zadarmo a open source. Keď za teba pracuje stroj, kto sa podpisuje pod jeho robotu?

Tento týždeň nudné a lacné veci, ktoré ti chránia peniaze.

Wordfence → bezpečnostný doplnok pre WordPress, základná verzia zadarmo. Firewall, kontrola súborov a obmedzenie prihlasovacích pokusov. Ak ho už máš, over si dnes jednu vec: či je naozaj zapnutý.

Bitwarden → správca hesiel, ktorý sám používam. Pre jedného alebo dvoch ľudí zadarmo, firemný plán so zdieľanými trezormi 4 doláre na človeka mesačne. Heslá prestanú kolovať v chatoch a odchod človeka z firmy prestane byť bezpečnostným incidentom.

Cloudflare (free plán) → dáš svoju doménu za Cloudflare a zapne sa ti základná ochrana proti najčastejšie zneužívaným dieram, bez nastavovania a bez platenia. Plná sada pravidiel je až v platených plánoch, ale ten základ zachytí automatické skenovanie, ktoré ide po každom webe.

Have I Been Pwned, hľadanie podľa domény → zadáš svoju firemnú doménu a vypíše ti, ktoré e-maily tvojich ľudí sa už objavili v uniknutých databázach. Do desiatich takých adries je to zadarmo, nad tým od 3,25 dolára mesačne pri ročnej platbe. Prvé, čo s výsledkom sprav: zmeň tie heslá, aj keď je únik starý.

DMARC Digests → pridáš si jeden záznam do domény a raz do týždňa ti príde ľudsky napísaný e-mail o tom, kto v tvojom mene posiela poštu. Free verzia ti povie, či maily podpisujú tie správne služby a či v tvojom mene neposiela niekto cudzí. Platená verzia stojí 14 dolárov na doménu mesačne a väčšina malých firiem ju nepotrebuje.

The Cost of a Data Breach 2026, and what we can learn from the Hugging Face hack · IBM Technology. Vyšlo včera. Traja ľudia z IBM rozoberajú svoju výročnú správu aj ten incident. Najsilnejšia veta: stále to padá na základoch, na tom, kto má aké práva.
https://www.youtube.com/watch?v=lx41qvj80Jo

An AI Botnet · John Hammond. Rozobral inzerát z hekerského fóra, kde niekto predáva hotový útočný nástroj, ktorý celý napísala AI (aj ten inzerát). Dvanásť minút, po ktorých ti bude jasné, prečo je útok dnes taký lacný.
https://www.youtube.com/watch?v=XZ4E2sHtNuw

Paste This Into Claude, Never Hit a Token Limit Again · Nate B Jones. Prečo ti limity dochádzajú, aj keď skoro nič nenapíšeš (za deň mu prešlo cez účet 3,77 miliardy tokenov, 96 % z toho tvoril opakovane posielaný vstup), a čo s tým.
https://www.youtube.com/watch?v=Y8vAQ1FgNbM

Špička AI sveta tento týždeň zistila, že jej model si vie sám nájsť cestu von a do cudzej firmy. Útok je dnes lacný, automatický a nepýta sa, koľko máš zamestnancov,, hlavne pri open-source modeloch. Obrana je stále rovnako nudná ako pred desiatimi rokmi: kto má prístup a čo je zapnuté. Vezmi si na to tú hodinu z dnešného čísla. V dobrom roku sa ti bude zdať zbytočná. V tom jednom zlom ti zachráni firmu.

Ak máš tému, ktorú chceš rozobrať, alebo nástroj, čo mám otestovať, ozvi sa mi tu alebo na instagrame.

btw: keď chceš custom build, kľudne si pozri moju stránku a kontaktuj ma buď na [email protected], alebo na instagrame: https://patriksystems.pages.dev/

Vidíme sa o týždeň,