Shadow AI - wielkie ryzyko dla organizacji (#81 - Prawo Nowych Technologii)

Gościem Mec. Katarzyny Załęskiej i Mec. Wojciecha Lamika jest Mec. Renata Zalewska - radczyni prawna i Head of Legal w Microsoft, odpowiedzialna za zapewnienie wsparcia prawnego spółkom Microsoft w Polsce i w Ukrainie. Pani Mecenas jest cenioną prelegentką w obszarach związanych z regulacjami dotyczącymi AI, Responsible AI oraz wykorzystaniem narzędzi AI w praktyce prawniczej. Jest również współautorką publikacji „AI w pracy radcy prawnego”, wydanej przez Krajową Izbę Radców Prawnych, wnosząc istotny wkład merytoryczny i inspirując środowisko prawnicze. Prowadzi zajęcia dydaktyczne w ramach pierwszego w Polsce programu studiów podyplomowych dla liderek i liderów AI w obszarze transformacji cyfrowej, realizowanego przez Polsko-Japońską Akademię Technik Komputerowych.Dzisiejszy odcinek poświęciliśmy zjawisku, które niestety jest coraz powszechniejsze w polskich organizacjach - shadow AI. Stosowanie narzędzi sztucznej inteligencji w codziennej pracy staje się już normą. Tego typu rozwiązania znacząco ułatwiają pracę, ale również wiążą się z licznymi ryzykami zarówno dla organizacji. Wiele osób korzysta z AI bezrefleksyjnie. Brak odpowiednich ram korzystania z AI może prowadzić do dotkliwych konsekwencji na wielu płaszczyznach.Podczas tej rozmowy poruszyliśmy m.in. następujące wątki:1. Czym jest shadow AI i jaka jest jego relacja do shadow IT?2. Czy shadow AI jest naruszeniem AI Act przez organizację lub przez pracownika?3. Czy shadow AI to problem tylko dużych organizacji?4. Jakie ryzyka wiążą się z shadow AI? 5. Czy są branże, które są szczególnie narażone na negatywne skutki nieautoryzowanego użycia AI?6. A może najprostsze rozwiązanie, tj. zakazać, zablokować, zagrozić konsekwencjami etc., będzie w takim przypadku najlepsze? Może to rozwiąże problem szybko i raz na zawsze?7. Czy te organizacje, które mają wdrożone narzędzia klasy DLP, data loss prevention, czyli zapobiegania utracie danych, w ogóle nie muszą się martwić o shadow AI?8. Czy shadow AI to bardziej problem „chodzenia na skróty” przez przeciążonych pracowników czy może brak tego, czego wymaga się od nas pod hasłem AI literacy? Czy tam, gdzie ogólna świadomość technologiczna jest wyższa ten problem występuje rzadziej?9. Jeśli postanowimy potraktować wykrycie shadow AI ja

Gościem Mec. Alicji Cegielskiej-Roli i Mec. Wojciecha Lamika jest Mec. Jacek Karp - radca prawny (Counsel) w Olesiński i Wspólnicy, specjalizujący się w doradztwie dla krajowych i międzynarodowych grup kapitałowych w obszarze compliance regulacyjnego, prawa konkurencji, international trade compliance, sektora defence i dual-use oraz energetyki i OZE. Wspiera klientów zarówno w bieżącej działalności operacyjnej, jak i przy projektach inwestycyjnych, finansowych i rozwojowych, ze szczególnym uwzględnieniem identyfikacji ryzyk prawnych i biznesowych.W tym odcinku rozmawiamy o regulacjach dotyczących produktów dual-use, które odgrywają coraz większą rolę w działalności firm technologicznych, przemysłowych i eksportowych.Podczas tej rozmowy poruszyliśmy m.in. następujące wątki:1. Czym są produkty podwójnego zastosowania i jak zbudowany jest wykaz kontrolny? Czy każde użycie towaru na cele wojskowe oznacza, że jest on dual-use?2. Czy klient ma jakieś pole manewru jeśli chodzi o „być” lub „nie być” dual-use? Czy prawnik jest w stanie dokonać identyfikacji towaru i stwierdzić czy towar jest podwójnego zastosowania?3. Na czym polega klauzula catch all i czy w jej ramach zawsze może okazać się, że dany towar jest dual-use? Czy niezbędny jest due diligence po stronie klienta w kontekście stosowania tej klauzuli?4. Czy klienci powinni zwracać uwagę przede wszystkim na eksport towarów jeśli chodzi o wymogi dual-use, czy też są inne rodzaje obrotu towarami mogące rodzić ryzyka?5. Jak wygląda wybór ścieżki zezwoleniowej - zezwolenie indywidualne, globalne, unijne generalne, krajowe generalne?6. Czy ostatnie zmiany w polskich przepisach o obrocie towarami strategicznymi wpłynęły na sytuację przedsiębiorców planujących kontrakty eksportowe towarów podwójnego zastosowania?7. Czy ewidencja obrotu towarami dual-use jest złożonym procesem? Czy WSK (wewnętrzny system kontroli) to coś, z czym musi zmierzyć się każdy przedsiębiorca wchodzący w ten sektor?8. Jak wygląda praktyka sankcyjna w tym obszarze?

Gościem Mec. Macieja Białasa i Mec. Wojciecha Lamika są:1) Mateusz Jakubik - prawnik łączący prawo z IT; związany zawodowo z Bonnier Business Polska (CISO), InfinityLawTech (Partner) i ODO Szkolenia (CIO); certyfikowany audytor wiodący systemów zarządzania bezpieczeństwie informacji ISO;2) Rafał Prabucki - prawnik i inżynier, doktor nauk prawnych; adiunkt na Uniwersytecie Śląskim; COO w Szostek_Digital; audytor wiodący ISO/IEC 27001 i in.Ten odcinek dotyczy ransomware – szczególnego zagrożenia dla kancelarii radcy prawnego. Występowanie tego procederu może nieść dla naszej profesji szereg ryzyk, w tym ryzyko naruszenia tajemnicy zawodowej.Podczas tej rozmowy poruszyliśmy m.in. następujące wątki:1) Czym dokładnie jest ransomware i dlaczego kancelarie prawne są szczególnie atrakcyjnym celem dla cyberprzestępców?2) Padamy ofiarą ransomware - czego nie robić? Jakie działania powinniśmy podjąć po zrozumieniu, że doszło do skutecznego ataku?3) Czy warto płacić okup? Jakie są konsekwencje prawne, biznesowe i praktyczne takiej decyzji?4) Jakie są najczęstsze błędy organizacyjne i techniczne, które zwiększają ryzyko ataku ransomware w kancelarii?5) Jakie obowiązki prawne ciążą na kancelarii po ataku ransomware – w szczególności w kontekście RODO, tajemnicy zawodowej oraz informowania klientów?

Gościem Mec. Bartłomieja Ofierskiego oraz Mec. Wojciecha Lamika jest Mec. Michał Kulesza – partner w Kancelarii Bird&Bird, specjalizuje się w prawie technologii, compliance regulacyjnym i cyberbezpieczeństwie. Doradza w złożonych sprawach z zakresu fintech, projektów transformacji cyfrowej, cyber resilience (DORA, NIS2), regulacji AI oraz wdrożeń technologicznych w sektorach regulowanych.W tym odcinku rozmawiamy o problemach biznesu, który musi mierzyć się z natłokiem regulacji. Regularnie otrzymujemy informacje o nowych przepisach / aktach prawnych, które nakładają na przedsiębiorców nowe obowiązki. Często zmiany te powodują realną poprawę funkcjonowania organizacji, ale często stanowią duże obciążenie w prowadzeniu bieżącej działalności. Nigdzie nie jest to tak jaskrawo widoczne, jak w przypadku regulacji związanych z nowymi technologiami.Podczas tej rozmowy poruszyliśmy m.in. następujące kwestie:1. Czy mamy dziś do czynienia z nadregulacją, czy raczej z koniecznym dostosowaniem prawa do rosnącej cyfryzacji gospodarki?2. W ostatnich latach pojawiły się m.in. DORA, NIS2, AI Act czy Cyber Resilience Act. Czy przedsiębiorstwa powinny patrzeć na te regulacje oddzielnie, czy traktować je jako element jednego trendu regulacyjnego?3. Które obszary działalności biznesowej są dziś najbardziej podatne na skutki nowych regulacji technologicznych i cyberbezpieczeństwa?4. Jakie błędy najczęściej popełniają zarządy przy ocenie ryzyk związanych z technologią, cyberbezpieczeństwem lub korzystaniem z usług zewnętrznych dostawców? Czy zarząd powinien dziś rozumieć technologię, czy wystarczy, że rozumie konsekwencje biznesowe i regulacyjne związane z jej wykorzystaniem?5. Regulacje coraz częściej wymagają od organizacji kontrolowania nie tylko własnych procesów, ale również swoich dostawców. Jak zmienia to relacje pomiędzy biznesem a dostawcami ICT?6. Czy w praktyce największe ryzyko wynika dziś z samej technologii, czy raczej z nadmiernej zależności od określonych dostawców i usług?7. W których obszarach najczęściej pojawia się konflikt pomiędzy wymaganiami regulatora a standardowym podejściem dostawców technologicznych?8. Czy DORA rzeczywiście zwiększyła bezpieczeństwo sektora finansowego, czy przede wszystkim pokazała regulatorom, że instytucje finansowe są w praktyce silnie uzależnione od niewielkiej grupy globalnych dostawców technologii?

Gościem Mec. Wojciecha Lamika są:1) Michał Araszkiewicz - radca prawny, partner w Araszkiewicz Cichoń Araszkiewicz Kancelarii Radców Prawnych i Adwokata. Adiunkt w Katedrze Teorii Prawa Wydziału i Administracji Uniwersytetu Jagiellońskiego. Doktor nauk prawnych. Specjalizuje się w problematyce modelowania rozumowań prawniczych z wykorzystaniem narzędzi Sztucznej Inteligencji. Autor ponad 100 prac naukowych. Sekretarz International Association for Artificial Intelligence and Law, Ekspert INPRIS, Wiceprezes JURIX - The Foundation for Legal Knowledge Based Systems. Członek Prezydium Rady OIRP w Krakowie, Komisji Nowych Technologii KIRP oraz OIRP w Krakowie, a także IT Commitee CCBE;2) Anna Augustyn - radczyni prawna. Specjalistka w zakresie prawa własności intelektualneji prawa nowych technologii. Prowadzi kancelarie augustyn.legal. Przewodnicząca Komisji Nowych Technologii KRRP w Krajowej Izbie Radców Prawnych i V-ce przewodnicząca Komisji Nowych Technologii OIRP Wrocław. Historyczka sztuki. Ekspertka językowa prostej polszczyzny i specjalistka w zakresie Legal Designu. Wykładowczyni m.in. studiów podyplomowych z Prawa w IT na Polsko Japońskiej Akademii Technik Komputerowych. Aktywnie prowadzi warsztaty i szkolenia z zakresu Legal Designu i prawa nowych technologii. Of counsel w kancelarii dr Gabrieli Bar Law&AI.To kolejny odcinek o Digital Omnibus, tym razem z perspektywy zmian dla AI Act. Digital Omnibus ma uprościć wdrożenie przepisów dotyczących AI, ale jednocześnie wywołuje pytania o przejrzystość, egzekwowalność i ochronę praw podstawowych. Co istotne, w dniu 26 marca 2026 r. sesja plenarna Parlamentu Europejskiego w Brukseli zatwierdziła poprawki opracowane przez komisje IMCO i LIBE do Omnibusa AI. Przyjęty tekst stanowi mandat negocjacyjny PE do trylogów — nie jest to jeszcze obowiązujące prawo.Podczas tej rozmowy poruszyliśmy m.in. następujące wątki:1) Czym właściwie jest pakiet Digital Omnibus i dlaczego Komisja Europejska zdecydowała się zaproponować zmiany w AI Act zaledwie kilkanaście miesięcy po jego przyjęciu?2) Czy Digital Omnibus to początek deregulacji podejścia UE do AI, czy raczej próba pogodzenia innowacji z ochroną praw podstawowych?3) Które zmiany najmocniej ingerują w prawa podstawowe?4) Digital Omnibus zakłada, że organy ochrony praw podstawowych będą uzyskiwać dostęp do dokumentacji systemów AI przez organy nadzoru rynku. Czy taki pośrednik może w praktyce utrudnić albo spowolnić reagowanie na naruszenia praw podstawowych?5) Czym jest AI literacy, z czego wynika ten obowiązek i czy istnieją jakieś minimalne wymogi, które trzeba wziąć pod uwagę przy organizacji szkoleń?6) Jedną z ważniejszych zmian jest przesunięcie harmonogramu stosowania obowiązków dla systemów AI wysokiego ryzyka. Czy to pragmatyczne dostosowanie do realiów wdrożenia, czy raczej sposób na to, by przez dłuższy czas systemy o największym wpływie działały bez pełnego reżimu ochronnego?

Gościem Mec. Zuzanny Bąk oraz Mec. Wojciecha Lamika jest Mec. Dominik Lubasz – doktor habilitowany, profesor Uniwersytetu Łódzkiego, radca prawny oraz partner zarządzający w kancelarii Lubasz i Wspólnicy – Kancelaria Radców Prawnych. Wyróżniony m.in. w latach 2020-2025 w rankingu „The Legal 500” jako „Leading Individual”. Jest ekspertem Europejskiej Rady Ochrony Danych. Specjalizuje się w prawie nowych technologii, e-commerce, własności intelektualnej, ochronie danych osobowych oraz w prawie gospodarczym, w tym europejskim prawie gospodarczym.Tematem odcinka jest Digital Omnibus – jedna z najważniejszych reform unijnych, które są teraz na kanwie i dotyczą szeroko pojętego sektora cyfrowego. Intencją prawodawcy unijnego jest uproszczenie stosowania szeregu unijnych regulacji (w tym AI Act oraz RODO). Teraz skoncentrujemy się na propozycjach zmian związanych z ochroną danych osobowych, w kolejnym odcinku przeanalizujemy kwestie związane ze stosowanie sztucznej inteligencji.Podczas tej rozmowy poruszyliśmy m.in. następujące kwestie:1. Jakie zmiany w zakresie RODO proponuje Digital Omnibus, które można uznać za pozytywne?2. Na czym będzie polegać zmiana definicji danych osobowych z RODO oraz jakie mogą wynikać z tego konsekwencje?3. Co Komisja proponuje w zakresie modyfikacji zasady ograniczonego przetwarzania danych?4. Digital Omnibus proponuje dodanie do RODO dodatkowej podstawy prawnej przetwarzania danych szczególnych kategorii (np. danych o stanie zdrowia) w kontekście rozwoju i operacji systemów AI. Czy jest to zmiana w dobrym kierunku? Jakie mogą tutaj pojawić się zagrożenia? Czy stworzenie takiej furtki dla dostawców systemów AI może okazać się otwarciem „Puszki Pandory”?5. Na czym miałyby polegać zmiana obowiązku administratorów związana z realizacją obowiązku informacyjnego?6. Co proponuje Komisja Europejska w zakresie zmiany dot. zautomatyzowanego podejmowania decyzji?7. Jakie są propozycje zmian w AI Act, które związane są z RODO?

Gościem Mec. Macieja Białasa oraz Mec. Wojciecha Lamika jest Mec. Tomasz Zalewski - radca prawny z ponad 20-letnim stażem, specjalizujący się w prawie nowych technologii, AI i zamówieniach publicznych. Ekspert w zakresie wykorzystywania technologii w pracy prawników i założyciel Fundacji LegalTech Polska. Pragmatyczny i rzeczowy mówca.W tym odcinku rozmawiamy ponownie o LegalTech, o narzędziach, które usprawniają codzienną pracę prawnika oraz o przemianie kancelarii i działów prawnych wynikającej z aktualnego dostępu do technologii.Podczas tej rozmowy poruszyliśmy m.in. następujące kwestie:1) Jakie są najczęstsze błędy, które na początku drogi popełniają prawnicy, którzy chcą wdrożyć LegalTech?2) Czy w dobie rosnącej popularności rozwiązań LegalTech dobrym pomysłem jest rozwijanie umiejętności poniekąd obcych naszemu zawodowi – kodowania, UX designu, itd.?3) Czy LegalTech w kancelarii daje realną oszczędność?4) Czy kancelarie oraz firmy, które odpuszczą pościg za LegalTech zostaną w tyle za konkurencją? Jakie ryzyka niesie ze sobą takie działanie?5) Jak wygląda polski rynek produktów LegalTech?

Gościem Mec. Doroty Jarzębowskiej oraz Mec. Wojciecha Lamika jest Magdalena Piech - doktor nauk prawnych, specjalizująca się w regulacjach rynku cyfrowego i platform internetowych. Łączy doświadczenie w procesie legislacyjnym, monitorowaniu i wdrażaniu aktów prawnych oraz public affairs z doświadczeniem w sektorze e-commerce i nowych technologii. Autorka publikacji poświęconych platformom internetowym oraz ochronie danych osobowych.Po dłuższej przerwie wracamy do unijnego rozporządzenia Akt o usługach cyfrowych (DSA). Polska od dłuższego czasu opóźnia się z wdrażaniem tej regulacji w swoim porządku krajowym. Kilka tygodni temu doszło do zawetowania projektu ustawy nowelizującej pod tym kątem polskie prawo. Jak zatem bez tej nowelizacji wygląda realizacja obowiązków nałożonych na dostawców usług pośrednich w Polsce? Czy to rozporządzenie jest na razie martwym prawem?Podczas tej rozmowy poruszyliśmy m.in. następujące kwestie:1) Co jest głównym przedmiotem zainteresowania Komisji Europejskiej w toczących się postępowaniach na podstawie DSA?2) Jaki jest status wdrożenia w krajach UE ? Czy Polska jest osamotniona czy jest szersze grono państw które spóźniły się z implementacją?3) Jak opóźnienie w implementacji wpływa biznes i obywateli w Polsce?4) Czy na gruncie formalnym wydarzyły się jakieś ciekawe rzeczy ? Czy np. KE lub Rada ds. Usług Cyfrowych wydała dokumenty doprecyzowujące DSA?5) W debacie publicznej, właściwie globalnie, bardzo dużo uwagi poświęcono ochronie małoletnich w sieci, także za sprawą australijskiego zakazu dostępu do sieci społecznościowych. Jak podchodzi do tego zagadnienia KE i organy krajowe?6) Jak powinien podejść biznes co do tego, że z jednej strony mamy rozporządzenie bezpośrednio stosowane, a z drugiej brak ustawy krajowej? Co można w tej sytuacji zrobić?7) Czy są jakieś regulacje, które chociaż w ograniczonym stopniu są w stanie zminimalizować brak implementacji DSA do polskiego porządku prawnego?

Gościem Mec. Aleksandry Kraśnickiej oraz Mec. Wojciecha Lamika jest Iwona Jarosz - radczyni prawna, od 2012 roku w Dziale Prawnym Naukowej i Akademickiej Sieci Komputerowej - Państwowego Instytutu Badawczego, gdzie zajmuje się bieżącą obsługą prawną przede wszystkim CSIRT NASK, czyli jednego z Zespołów Reagowania na Incydenty Bezpieczeństwa Komputerowego działających na poziomie krajowym, Rejestru domeny najwyższego poziomu .PL oraz szeregu projektów dotyczących cyberbezpieczeństwa i nowych technologii realizowanych przez NASK, zarówno polskich, jak i europejskich, publicznych i komercyjnych, jak również współpracą z organami administracji publicznej i organami ścigania.Tematem odcinka jest ponownie Dyrektywa NIS-2 oraz stan jest wdrożenia w polskim porządku prawnym. Porozmawiamy o tym, co w najbliższym czasie czeka podmioty sektora prywatnego i publicznego w związku z wyzwaniami związanymi z cyberbezpieczeństwem.Podczas tej rozmowy poruszyliśmy m.in. następujące kwestie:1) Dyrektywa NIS 2 już obowiązuje, a polskiej ustawy wdrażającej wciąż nie ma. Jakie realne skutki ta luka prawna ma dziś dla przedsiębiorców i organów publicznych?2) Czy firmy powinny już teraz wdrażać wymagania NIS 2, mimo braku nowelizacji KSC, czy raczej czekać na ostateczny kształt ustawy? Gdzie kończy się rozsądne przygotowanie, a zaczyna nadmiarowe compliance?3) Projekt nowelizacji ustawy o krajowym systemie cyberbezpieczeństwa ma wdrażać NIS 2, ale dla wielu podmiotów jest trudny w odbiorze. Jakie są jego kluczowe założenia i które elementy mogą sprawiać firmom największe trudności interpretacyjne?4) Projekt nowelizacji KSC był już kilkukrotnie zmieniany i szeroko krytykowany w toku konsultacji. Na ile ten sposób prowadzenia procesu legislacyjnego wpływa na brak zaufania firm do przyszłych przepisów i utrudnia im realne przygotowanie się na NIS 2?5) Jednym z największych wyzwań jest dziś ustalenie, kogo nowe przepisy w ogóle obejmą. Dlaczego określenie, czy dana organizacja będzie podmiotem „kluczowym” albo „ważnym”, jest tak problematyczne w obecnym stanie prawnym?6) Jak ocenia Pani Mecenas rozwiązania dotyczące odpowiedzialności kadry zarządzającej oraz systemu sankcji? Czy projekt KSC daje menedżerom realne narzędzia do zarządzania ryzykiem, czy raczej przerzuca na nich odpowiedzialność za niejasne regulacje?7) Czy opóźnienie we wdrożeniu NIS 2 może osłabić skuteczność całego systemu cyberbezpieczeństwa w Polsce już na starcie? Czy grozi nam chaos regulacyjny zamiast realnej cyberodporności?8) Na koniec pytanie najbardziej praktyczne: co dziś, już teraz, powinny robić firmy, skoro NIS 2 obowiązuje na poziomie UE, a nowelizacja KSC wciąż nie została uchwalona?

Gościem Mec. Anny Zalesińskiej oraz Mec. Wojciecha Lamika jest Jacek Gołaczyński - prof. dr hab., jest uznanym specjalistą w dziedzinie prawa nowych technologii oraz postępowania cywilnego, od lat zaangażowanym w rozwój cyfryzacji wymiaru sprawiedliwości. Pełni funkcję Koordynatora do spraw informatyzacji sądownictwa, gdzie odpowiada za strategiczne kierunki rozwoju sądowych systemów teleinformatycznych. Jest Prezesem Sądu Apelacyjnego we Wrocławiu, łącząc doświadczenie naukowe z praktyką zarządzania dużą jednostką sądową. Jako profesor Uniwersytetu Wrocławskiego oraz Kierownik Centrum Badań Problemów Prawnych i Ekonomicznych Komunikacji Elektronicznej (CBKE) prowadzi liczne badania dotyczące cyfrowych procedur sądowych, komunikacji elektronicznej i e-wymiaru sprawiedliwości. Autor wielu publikacji naukowych, wykładowca i ekspert legislacyjny, od lat kształtuje kierunki modernizacji polskiego sądownictwa. Jest jednym z kluczowych autorytetów w obszarze e-sprawiedliwości w Polsce.Odcinek jest poświęcony zmianom, jakie w najbliższym czasie pojawią się w Portalu Informacyjnym w związku z nowelizacją postępowania cywilnego i karnego (w tym m.in. możliwość składania środków zaskarżenia).Podczas tej rozmowy poruszyliśmy m.in. następujące kwestie:1) Jaka jest dziś rola Koordynatora w systemie sądownictwa powszechnego?2) Jakie działania w obszarze informatyzacji sądów są kluczowe w perspektywie długofalowej, a które z nich są realne do wdrożenia w ciągu najbliższych dwóch lat?3) Najważniejsze zmiany w Portalu Informacyjnym, jakie pojawią się od 1 marca 2026 r. (w tym wątek wystąpienia awarii PI).4) Nad czym obecnie pracuje Komisja Kodyfikacyjna Prawa Cywilnego?Jednocześnie zapraszamy na konferencję „Cyfryzacja środków zaskarżenia – Portal Informacyjny w praktyce sądów i pełnomocników 28 stycznia 2026 r.”, która odbędzie się na Wydziale Prawa, Administracji i Ekonomii UWr (link do rejestracji: https://oirp.wroclaw.pl/konferencja-cyfryzacja-srodkow-zaskarzenia--portal-informacyjny-w-praktyce-sadow-i-pelnomocnikow-28-stycznia-2026-r_)