AI Governance i legal architect - nowa perspektywa na wdrożenie AI (#65 - Prawo Nowych Technologii)

Gościem Mec. Wojciecha Lamika są:1) Michał Nowakowski - radca prawny, ekspert zajmujący się projektami AI & Data na styku technologii, biznesu oraz prawa w kancelarii ZP Zackiewicz & Partners, odpowiedzialny za rozwój obszaru AI i cyberbbezpieczeństwa w kancelarii oraz wspólnik GovernedAI; autor książek, w tym m.in. praktycznych poradników dla sektora fintech.2) Martyna Rzeczkowska - adwokat, Counsel oraz Co-Head odpowiedzialna za rozwój obszaru AI i cyberbbezpieczeństwa w kancelarii ZP Zackiewicz & Partners z prawie 10-letnim doświadczeniem w obszarze prawa nowych technologii, co potwierdza wyróżnienie tytułem Recommended Lawyer w rankingu the Legal 500 w kategorii TMT.To kolejny odcinek o sztucznej inteligencji, ale trochę z innej perspektywy, bardziej kompleksowej. Poświęcono dużo uwagi mechanizmowi AI Governance, a także profesji legal architect. Wdrażanie sztucznej inteligencji to kwestia naczyń połączonych, w tym również potrzeba nowych specjalizacji u prawników.Podczas tej rozmowy poruszyliśmy m.in. następujące kwestie:1. Czym jest AI Governance? Kim jest legal architect?2. Czy prawnik może samodzielnie wdrożyć AI Governance?3. Jak legal architect uczestniczy w projektowaniu rozwiązań AI w organizacji?4. Jakie problemy rozwiązuje legal architect w organizacji?5. W jaki sposób legal architect pomaga zapewnić zgodność z regulacjami takimi jak AI Act, RODO czy DSA?6. Czy legal architect współpracuje z działem IT, compliance, czy może angażuje również inne działy?7. Czy firmy są gotowe na takie podejście do AI Governance?8. Co jest największą przeszkodą we wdrażaniu AI Governance?9. Czy wystarczy wdrożyć AI ACT by zapewnić skuteczny AI Governance?

Gościem Mec. Macieja Jany oraz Mec. Wojciecha Lamika jest Aleksandra Bar - doktor nauk prawnych, adiunkt w Zakładzie Prawa Cywilnego i Prawa Międzynarodowego Prywatnego na Wydziale Prawa, Administracji i Ekonomii Uniwersytetu Wrocławskiego. Autorka publikacji naukowych z zakresu prawa własności intelektualnej, w tym monografii na temat prawnoautorskiego statusu obrazów generowanych z wykorzystaniem AI. Naukowo zajmuje się przede wszystkim problematyką prawa autorskiego i nowych technologii.Tematem odcinka jest problematyka wytworów generowanych przez sztuczną inteligencję w kontekście praw własności intelektualnej.Podczas tej rozmowy poruszyliśmy m.in. następujące kwestie:1. Jak dziś, na gruncie polskiego i europejskiego prawa autorskiego, klasyfikowane są wytwory generatywnej AI?2. Czy da się w ogóle mówić o “utworze” w rozumieniu prawa autorskiego, jeżeli został stworzony całkowicie przez algorytm, bez udziału człowieka?3. Czy wpisanie kilku zdań do narzędzia typu ChatGPT lub DALL·E może uzasadniać uznanie użytkownika za autora lub współautora treści?4. Czy trenowanie takich modeli na istniejących, chronionych utworach może naruszać prawa autorskie ich twórców?5. Czy rozwój AI generującej muzykę czy głosy stwarza realne zagrożenie np. dla wykonawców z perspektywy praw pokrewnych? I jak można się przed tym bronić?6. Jak z punktu widzenia prawa wygląda kwestia odpowiedzialności za naruszenie praw autorskich: kto ponosi ryzyko – twórca modelu, użytkownik, czy może obaj?7. Na świecie trwają już procesy – jak ten Getty Images przeciwko Stability AI. Jakie są główne zarzuty w takich sprawach i co mogą oznaczać dla twórców, użytkowników i dostawców modeli AI?

Gościem Mec. Macieja Jany oraz Mec. Wojciecha Lamika jest Aleksandra Bar - doktor nauk prawnych, adiunkt w Zakładzie Prawa Cywilnego i Prawa Międzynarodowego Prywatnego na Wydziale Prawa, Administracji i Ekonomii Uniwersytetu Wrocławskiego. Autorka publikacji naukowych z zakresu prawa własności intelektualnej, w tym monografii na temat prawnoautorskiego statusu obrazów generowanych z wykorzystaniem AI. Naukowo zajmuje się przede wszystkim problematyką prawa autorskiego i nowych technologii.Tematem odcinka jest problematyka wytworów generowanych przez sztuczną inteligencję w kontekście praw własności intelektualnej.Podczas tej rozmowy poruszyliśmy m.in. następujące kwestie:1. Jak dziś, na gruncie polskiego i europejskiego prawa autorskiego, klasyfikowane są wytwory generatywnej AI?2. Czy da się w ogóle mówić o “utworze” w rozumieniu prawa autorskiego, jeżeli został stworzony całkowicie przez algorytm, bez udziału człowieka?3. Czy wpisanie kilku zdań do narzędzia typu ChatGPT lub DALL·E może uzasadniać uznanie użytkownika za autora lub współautora treści?4. Czy trenowanie takich modeli na istniejących, chronionych utworach może naruszać prawa autorskie ich twórców?5. Czy rozwój AI generującej muzykę czy głosy stwarza realne zagrożenie np. dla wykonawców z perspektywy praw pokrewnych? I jak można się przed tym bronić?6. Jak z punktu widzenia prawa wygląda kwestia odpowiedzialności za naruszenie praw autorskich: kto ponosi ryzyko – twórca modelu, użytkownik, czy może obaj?7. Na świecie trwają już procesy – jak ten Getty Images przeciwko Stability AI. Jakie są główne zarzuty w takich sprawach i co mogą oznaczać dla twórców, użytkowników i dostawców modeli AI?

Gościem Mec. Patryka Skłodowskiego oraz Mec. Wojciecha Lamika są:1) Mirosław Gumularz - doktor nauk prawnych, radca prawny, specjalista z zakresy ochrony danych osobowych i prawa nowych technologii, przewodniczący społecznego zespołu ekspertów przy Prezesie Ochrony Danych Osobowych;2) Tomasz Izydorczyk — inżynier, członek tego samego zespołu ekspertów, inspektor ochrony danych, audytor wiodący ISO w zakresie bezpieczeństwa informacji.Mija 7 lat, od kiedy ogólne rozporządzenie o ochronie danych (czyli RODO) rozpoczęło swoje stosowanie. W tym czasie pojawiło się wiele mitów w związku z jego wdrażaniem i wykorzystaniem przez administratorów i procesorów. W ostatnim czasie coraz głośniej – zarówno w Unii Europejskiej, jak i w Polsce - słychać głosy o potrzebie deregulacji RODO oraz obowiązków, jakie z niego wynikają.Podczas rozmowy poruszyliśmy m.in. następujące kwestie:1) Czy w Twojej ocenie RODO w ogóle zdało egzamin, czy jednak faktycznie wymaga zmian?2) Czy RODO blokuje biznes (w szczególności ten mały i średni) bo nakłada za dużo obowiązków?3) Czy model RODO, zgodnie z którym przepisy tego rozporządzenia dają ogólne wskazówki, czasem podpowiedzi co i jak robić - w obecnych zmieniających się realiach (AI, nowe technologie) jest w stanie się obronić?4) Czy zasada rozliczalności nie powoduje, że RODO to przerost formy nad treścią, bo tworzymy dokumenty bez większej refleksji, których nikt nie czyta?5) Jak powinna wyglądać rola Inspektora Ochrony Danych w organizacji administratora, mając na względzie ostatnie stanowisko Prezesa Urzędu Ochrony Danych Osobowych?

Gościem Mec. Katarzyny Załęskiej oraz Mec. Wojciecha Lamika jest Joanna Ryczek - adwokat, starszy prawnik w poznańskiej kancelarii Głowacki i Wspólnicy. Specjalizuje się w ochronie własności intelektualnej oraz prawie reklamy. Wspiera klientów w organizacji współprac influencerskich, zajmuje się compliance reklamowym – opiniuje reklamy, weryfikuje znakowanie reklam w social mediach.Tematem odcinka są prawne aspekty influencerów wygenerowanych przez AI.Podczas tej rozmowy poruszyliśmy m.in. następujące kwestie:1. Jak rozwinął się marketing inluencerski jako trend rynkowy?2. Ryzyka przedsiębiorców związane z korzystaniem z usług influencerów.3. Kiedy pojawili się pierwsi AI influencerzy?4. Jak powstaje AI influencer?5. Kto odpowiada za działalność AI influencera?6. Jak wyegzekwować roszczenia związane z AI influencerem?7. Czy AI influencer jest twórcą utworów w rozumieniu prawa autorskiego?8. Skąd bierze się „twórczość” AI influencerów?

Gościem Mec. Dominiki Fikus-Graf oraz Mec. Wojciecha Lamika są:1) Inga Skowrońska - współpracuje z Uniwersytetem SWPS, Filią we Wrocławiu, adwokat. Zajmuje się prawem karnym i gospodarczym. W swojej praktyce zawodowej kieruje się duchem legal designu;2) Mateusz Antczak — projektant graficzny, wykładowca akademicki, członek zespołu Centrum Legal (Communication) Design.Tematem odcinka jest Legal Design jako wsparcie w zakresie spełniania różnych obowiązków informacyjnych. W wielu aktach prawnych tego typu powinności są nakładane na różne podmioty. Dla przykładu, jest szereg obowiązków informacyjnych, jakie należy udzielać konsumentom, czy też osobom, których dane są przetwarzane na podstawie RODO.Podczas rozmowy poruszyliśmy m.in. następujące kwestie:1) W jaki sposób Legal Design może pomóc w realizacji obowiązków informacyjnych?2) Jak prawnicy mogą wykorzystywać legal design? Czy edukacja prawna klienta za pomocą legal designu jest korzystna dla prawnika? Jakie są wyzwania dla prawników w pracy metodą legal design?3) Jak projektuje się rozwiązania wizualne z obszaru legal design? Czy więcej elementów wizualnych znaczy lepiej? Gdzie znaleźć złoty środek?4) Czy żeby zacząć z legal design, potrzebna jest szeroka wiedza na temat narzędzi do projektowania? Czy jesteście w stanie polecić jakieś narzędzia dla osób, które nie czują się mocne w zaawansowanych narzędziach graficznych?5) Jakie są kluczowe różnice w podejściu do legal design z perspektywy prawnika i projektanta?

Gościem Mec. Anny Zalesińskiej oraz Mec. Wojciecha Lamika jest Sylwester Szczepaniak – radca prawny, of Counsel w Kancelarii Traple, Konarski, Podrecki i Wspólnicy, doradca w prawnych i organizacyjnych zagadnieniach e-administracji oraz procesów paperless w organizacjach. Specjalizuje się w prawie identyfikacji elektronicznej i usług zaufania (podpisy i pieczęcie elektroniczne, doręczenia elektroniczne, elektroniczne znaczniki czasu).Tematem odcinka są e-doręczenia. Mijają pierwsze miesiące, od kiedy radcowie prawni są zobowiązani do posługiwania się ADE. Czy doręczenia elektroniczne przyjęły się w naszym zawodzie? Czy w związku z założeniem ADE, stosowanie skrzynek elektronicznych pojawiły się problemy? Obalimy również kilka mitów związanych z e-doręczeniami.Podczas tej rozmowy poruszyliśmy m.in. następujące kwestie:1. Jeśli jesteś radcą prawnym na jednoosobowej działalności gospodarczej, ile musisz mieć adresów? 1 czy 2? A co w przypadku gdy jestem radcą zatrudnionym na etat albo jestem wspólnikiem w spółce? A jeśli jestem jednocześnie radcą prawnym, rzecznikiem patentowym, doradcą podatkowym i doradcą restrukturyzacyjnym. Ile mam mieć skrzynek do e-doręczeń?2. Wykorzystanie skrzynki prywatnej do celów zawodowych.3. Wśród katalogu zawodów zaufania publicznego, które są zobowiązane do posiada ADE, nie ma syndyków. Czy zatem oni nie muszą posiadać ADE?4. Czy skrzynka związana z prowadzeniem działalności gospodarczej może być również skrzynką osobistą?5. W jakim zakresie można korzystać z e-doręczeń jako radca prawny? W jakich sytuacjach musimy koniecznie korzystać z e-doręczeń?6. Czy w postępowaniu administracyjnym radca prawny jest zobowiązany do wysyłania korespondencji do urzędu przez e-doręczenia?7. Jak wygląda relacja e-doręczeń i ePuaP?8. Co w sytuacji, kiedy radca prawny chce wybrać się na urlop? Jak będzie wyglądało wówczas odbieranie e-doręczeń?

Gościem Mec. Huberta Sarżyńskiego oraz Mec. Wojciecha Lamika jest Tomasz Tomczak - radca prawny, doktor nauk prawnych, pracownik Katedry Prawa Gospodarczego i Finansowego Wydziału Prawa i Administracji Uniwersytetu Opolskiego. Specjalizuje się m.in. w prawie zabezpieczenia wierzytelności oraz prawie kryptoaktywów. Absolwent Uniwersytetu Wrocławskiego, Uniwersytetu Radboud w Holandii (LL.M.) oraz Uniwersytetu w Ottawie (LL.M.).Tematem odcinka jest problematyka kryptoaktywów i AML, szczególnie w kontekście ostatnich regulacji, przede wszystkim unijnych. Dla przykładu, 30 grudnia 2024 r. weszło w życie rozporządzenie Parlamentu Europejskiego i Rady (UE) 2023/1113 z dnia 31 maja 2023 r. w sprawie informacji towarzyszących transferom środków pieniężnych i niektórych kryptoaktywów.Podczas tej rozmowy poruszyliśmy m.in. następujące kwestie:1. Co wprowadzają nowe regulacje i co takiego zmieniło się w podejściu prawodawcy unijnego, że postanowiono wprowadzić kilka regulacji na raz i dodatkowo w formie rozporządzenia?2. Jaka będzie rola nowego organu - AMLA - i jakie będą jej relacje z dotychczasowymi rozwiązaniami lub istniejącymi organami?3. Na czym polega odejście od kontroli wyłącznie nad kryptowalutami na rzecz kryptoaktywów i co znajdzie się w zakresie nowych regulacji?4. Na jakie aktywa wirtualne trzeba będzie przede wszystkim zwracać uwagę w ramach analizy ryzyka, zwłaszcza w działalności instytucji obowiązanych takich jak działalność prawnicza?5. Czy możemy aktywa wirtualne / kryptoaktywa podzielić na takie, które zawsze będą stanowić wysokie ryzyko w ramach analizy ryzyka i mniej ryzykowne, czy taka działalność lub obrót musi zawsze powodować zbliżony wynik analizy?6. W jaki sposób rozszerzy się zakres nadzoru w ramach AML?7. Jakie są problemy z przepisami przejściowymi co do omawianych regulacji?

Gościem Mec. Tomasza Schefflera oraz Mec. Wojciecha Lamika jest Adam Bodnar - nauczyciel akademicki, działacz społeczny, publicysta, były Rzecznik Praw Obywatelskich (2015-2021), od 2023 r. Senator RP XI kadencji oraz Minister Sprawiedliwości. Tematem odcinka są prawa podstawowe, przede wszystkim w kontekście rozwoju nowych technologii. Punktem wyjścia do rozmowy jest esej bardzo znanego niemieckiego prawnika – Ferdinanda von Schiracha – „Każdy człowiek”. Podczas tej rozmowy poruszyliśmy m.in. następujące kwestie: 1. Czym są prawa podstawowe, szczególnie w kontekście prawa Unii Europejskiej? 2. Czy obowiązujący katalog praw podstawowych, który znajduje się w Karcie Praw Podstawowych jest adekwatny do aktualnego rozwoju społeczeństwa? 3. Dodanie jakich praw podstawowych do Karty Praw Podstawowych proponuje Ferdinand von Schirach? 4. Dlaczego dodanie nowych praw podstawowych do Karty byłoby bardziej efektywne niż tworzenie nowej umowy międzynarodowej? 5. Czy może być problemem to, że - zdaniem von Schiracha - tylko 12% Europejczyków wie o istnieniu Karty Praw Podstawowych? To ma siłą rzeczy przełożenie na egzekwowanie tych praw w sądach. 6. Czy nowe prawa, które zostały zaproponowane przez von Schiracha, nie są zbyt mało precyzyjne? Materie te są poruszane m.in. w AI Act oraz RODO.

Gościem Mec. Wojciecha Lamika oraz Mec. Macieja Białasa jest Mec. Mateusz Borkiewicz - Adwokat, partner zarządzający w kancelarii Leśniewski Borkiewicz Kostka & Partners. Wspiera szereg podmiotów w obszarze bezpieczeństwa informacji, w szczególności z zakresu cyberbezpieczeństwa oraz privacy. Obsługuje branżę IT/ICT, specjalizuje się także w prawie konsumentów. Ten sezon zamykamy kolejnym odcinkiem o sztucznej inteligencji, przede wszystkim pod kątem wdrażania AI Act w przedsiębiorstwie. Jest mocno praktycznie 😊 Podczas tej rozmowy poruszyliśmy m.in. następujące kwestie: 1. Kiedy dochodzi do sytuacji kiedy przedsiębiorca musi zainteresować się AI Act i obowiązkami, jakie z niego wynikają? 2. Jakie są główne kategorie ryzyka w AI Act i jakie obowiązki nakładają na przedsiębiorców? 3. Czy jest szansa, że AI Act spowolni rozwój technologii? 4. Jakie są najlepsze praktyki przedsiębiorców, aby zapewnić zgodność z AI Act? 5. Jak wygląda sytuacja dla systemów AI, które zostały już dopuszczone do użytku przed 2 sierpnia 2026 r.? 6. Przed nastaniem wyżej wskazanego terminu, co firmy powinny zrobić już teraz w kontekście stosowania sztucznej inteligencji? 7. Czym różni się umowa na wdrożenie AI od klasycznej umowy IT? 8. Czy np. gwarancja OpenAI w użyciu jego Chatu za pomocą API („nie uczymy sztucznej inteligencji na podstawie dostarczonych danych w ten sposób”) jest wystarczająca w kontekście zabezpieczenia prawnego w stosunku do newralgicznych danych, które są używane? 9. Jakie konsekwencje prawne mogą spotkać przedsiębiorców, jeśli nie spełni wymagań AI Act?