Wykorzystanie narzędzi AI przez radcę prawnego - szanse, wyzwania, odpowiedzialność (#68 - Prawo Nowych Technologii)

Gościem Mec. Łukasz Otfinowskiego oraz Mec. Wojciecha Lamika jest Mec. Kamil Szpyt - doktor nauk prawnych, adiunkt w Katedrze Prawa Cywilnego na Wydziale Prawa Uniwersytetu Andrzeja Frycza Modrzewskiego, radca prawny.W odcinku zwróciliśmy uwagę na wykorzystanie narzędzi AI z perspektywy wykonywania naszego zawodu, w tym doradztwa prawnego – nie jest tajemnicą, że obecnie wielu radców prawnych regularnie korzysta np. z ChatGPT czy Copilota w codziennej pracy. W dalszym ciągu wielu z nas zapomina jednak o konsekwencjach, jakie mogą się pojawić z nieprawidłowego korzystania z tych narzędzi.Podczas tej rozmowy poruszyliśmy m.in. następujące kwestie:1) jakie mogą być skutki nieumiejętnego korzystania przez pełnomocników z systemów AI?2) kiedy korzystanie przez radcę prawnego z systemów AI można by uznać za niezgodne z prawem lub zasadami etyki zawodowej? Jakie akty prawne mogą być podstawą odpowiedzialności radcy prawnego za szkody spowodowane wykorzystaniem systemu AI?3) czy radca prawny powinien poinformować klienta, że korzysta w ramach świadczenia usług prawnych z narzędzi AI?4) czy sąd może zobligować radcę prawnego do złożenia oświadczenia w kwestii korzystania przez niego z narzędzi AI czy też fragmentów tekstu wygenerowanych przez takie narzędzia?5) czy radca prawny naraża się na odpowiedzialność dyscyplinarną, jeśli w pismach procesowych powoływałby się na nieistniejące orzeczenia lub tezy z piśmiennictwa - zmyślone przez system AI?6) czy radca prawny może zwolnić się z odpowiedzialności odszkodowawczej, zasłaniając się brakiem odpowiednich kompetencji lub wiedzy o charakterze technologicznym / informatycznym?7) czy dopuszczalne jest umowne ograniczenie lub wyłączenie odpowiedzialności kontraktowej i deliktowej radcy prawnego za szkody spowodowane wykorzystaniem systemów AI przy świadczeniu pomocy prawnej?

Gościem Mec. Bartosza Radusiewicza oraz Mec. Wojciecha Lamik jest Jan Kocoń - dr inż., pracuje w Katedrze Sztucznej Inteligencji Politechniki Wrocławskiej, gdzie zajmuje się sztuczną inteligencją i przetwarzaniem języka naturalnego. Od 2011 pracuje nad projektami związanymi z modelami językowymi, spersonalizowanym uczeniem maszynowym i analizą tekstu. Autor ponad 80 publikacji naukowych. Był kierownikiem naukowym projektu PLLuM, aktualnie koordynuje treningi modeli w projekcie HIVE oraz zarządza tworzeniem laboratorium kontekstowego i spersonalizowanego przetwarzania danych językowych w projekcie CLARIN-PL.Tematem odcinka jest PLLuM - polski model językowy dla sektora publicznego i prywatnego. Zwrócono także uwagę na przyszłość polskich dużych modeli językowych jako konkurencji do ich odpowiedników zagranicznych.Podczas tej rozmowy poruszyliśmy m.in. następujące kwestie:1. Co zainspirowało polskich twórców do stworzenia PLLuM i czym wyróżnia się on na tle innych dużych modeli językowych (LLM) dostępnych na rynku?2. Jakie były największe wyzwania przy trenowaniu modelu PLLuM – zarówno technologiczne, jak i organizacyjne?3. Czy PLLuM był trenowany na danych wyłącznie w języku polskim, czy również na danych wielojęzycznych? Jak to wpływa na jego jakość i uniwersalność?4. Jak twórcy do kwestii zgodności PLLuM z polskimi przepisami dotyczącymi ochrony danych osobowych i prawa autorskiego?5. Czy PLLuM ma otwarty kod źródłowy lub planujecie jego udostępnienie na zasadach open-source? Jakie podejście przyjęliście do jego komercjalizacji?6. Jak wygląda rozwój dużych modeli językowych w Europie na tle USA czy Chin? Gdzie Polska i PLLuM mogą znaleźć swoją niszę?7. Jaki wpływ na przyszłość LLM mają obecnie dyskutowane regulacje – jak chociażby AI Act w Unii Europejskiej?8. Czy w dłuższej perspektywie rozwój krajowych LLM ma sens, czy dominacja globalnych graczy (jak OpenAI, Anthropic czy Google) jest nieunikniona?9. W jakich konkretnych zastosowaniach PLLuM już dziś pokazuje przewagę nad modelami zagranicznymi – czy to w administracji publicznej, edukacji, czy sektorze prawnym?

Gościem Mec. Joanny Skrzypiec oraz Mec. Wojciecha Lamik jest Iga Małobęcka-Szwast - doktor nauk prawnych, adiunktka w Katedrze Prawa Europejskiego na Wydziale Prawa i Administracji Uniwersytetu Warszawskiego. Radczyni prawna specjalizująca się w szeroko pojętym prawie nowych technologii, prawie ochrony danych osobowych, prawie ochrony konkurencji i konsumentów oraz regulacji usług i rynków cyfrowych. Współautorka komentarza do Aktu o usługach cyfrowych (DSA) oraz Aktu o rynkach cyfrowych (DMA).Tematem odcinka jest unijne rozporządzenie - Akt w sprawie danych – Data Act. To jeden z aktów prawnych Unii Europejskiej, który ma na celu lepsze wykorzystanie rosnącej ilości danych w Europie oraz wsparcie w budowie jednolitego rynku danych w UE.Podczas tej rozmowy poruszyliśmy m.in. następujące kwestie:1. Jakie są powody przyjęcia rozporządzenia Data Act?2. Jakie środki mają służyć usunięciu barier w dostępie do danych?3. Jakich danych dotyczy Data Act?4. Kto najbardziej skorzysta na rozporządzeniu w sprawie danych? Firmy, osoby fizyczne czy może sektor publiczny?5. Czy rozporządzenie wymusi na przedsiębiorstwach wspólne standardy danych zapewniające interoperacyjność?6. Czy możesz podać przykłady sytuacji, w których użytkownicy odczują funkcjonowanie rozporządzenia w życiu codziennym?7. W mediach pojawiły się doniesienia o zagrożeniach dla małych warsztatów samochodowych związane ze stosowaniem rozporządzenia. Czy są słuszne?8. Czy rozporządzenie w sprawie danych wymaga przyjęcia przepisów krajowych?

Gościem Mec. Wojciecha Lamika są:1) Michał Nowakowski - radca prawny, ekspert zajmujący się projektami AI & Data na styku technologii, biznesu oraz prawa w kancelarii ZP Zackiewicz & Partners, odpowiedzialny za rozwój obszaru AI i cyberbbezpieczeństwa w kancelarii oraz wspólnik GovernedAI; autor książek, w tym m.in. praktycznych poradników dla sektora fintech.2) Martyna Rzeczkowska - adwokat, Counsel oraz Co-Head odpowiedzialna za rozwój obszaru AI i cyberbbezpieczeństwa w kancelarii ZP Zackiewicz & Partners z prawie 10-letnim doświadczeniem w obszarze prawa nowych technologii, co potwierdza wyróżnienie tytułem Recommended Lawyer w rankingu the Legal 500 w kategorii TMT.To kolejny odcinek o sztucznej inteligencji, ale trochę z innej perspektywy, bardziej kompleksowej. Poświęcono dużo uwagi mechanizmowi AI Governance, a także profesji legal architect. Wdrażanie sztucznej inteligencji to kwestia naczyń połączonych, w tym również potrzeba nowych specjalizacji u prawników.Podczas tej rozmowy poruszyliśmy m.in. następujące kwestie:1. Czym jest AI Governance? Kim jest legal architect?2. Czy prawnik może samodzielnie wdrożyć AI Governance?3. Jak legal architect uczestniczy w projektowaniu rozwiązań AI w organizacji?4. Jakie problemy rozwiązuje legal architect w organizacji?5. W jaki sposób legal architect pomaga zapewnić zgodność z regulacjami takimi jak AI Act, RODO czy DSA?6. Czy legal architect współpracuje z działem IT, compliance, czy może angażuje również inne działy?7. Czy firmy są gotowe na takie podejście do AI Governance?8. Co jest największą przeszkodą we wdrażaniu AI Governance?9. Czy wystarczy wdrożyć AI ACT by zapewnić skuteczny AI Governance?

Gościem Mec. Macieja Jany oraz Mec. Wojciecha Lamika jest Aleksandra Bar - doktor nauk prawnych, adiunkt w Zakładzie Prawa Cywilnego i Prawa Międzynarodowego Prywatnego na Wydziale Prawa, Administracji i Ekonomii Uniwersytetu Wrocławskiego. Autorka publikacji naukowych z zakresu prawa własności intelektualnej, w tym monografii na temat prawnoautorskiego statusu obrazów generowanych z wykorzystaniem AI. Naukowo zajmuje się przede wszystkim problematyką prawa autorskiego i nowych technologii.Tematem odcinka jest problematyka wytworów generowanych przez sztuczną inteligencję w kontekście praw własności intelektualnej.Podczas tej rozmowy poruszyliśmy m.in. następujące kwestie:1. Jak dziś, na gruncie polskiego i europejskiego prawa autorskiego, klasyfikowane są wytwory generatywnej AI?2. Czy da się w ogóle mówić o “utworze” w rozumieniu prawa autorskiego, jeżeli został stworzony całkowicie przez algorytm, bez udziału człowieka?3. Czy wpisanie kilku zdań do narzędzia typu ChatGPT lub DALL·E może uzasadniać uznanie użytkownika za autora lub współautora treści?4. Czy trenowanie takich modeli na istniejących, chronionych utworach może naruszać prawa autorskie ich twórców?5. Czy rozwój AI generującej muzykę czy głosy stwarza realne zagrożenie np. dla wykonawców z perspektywy praw pokrewnych? I jak można się przed tym bronić?6. Jak z punktu widzenia prawa wygląda kwestia odpowiedzialności za naruszenie praw autorskich: kto ponosi ryzyko – twórca modelu, użytkownik, czy może obaj?7. Na świecie trwają już procesy – jak ten Getty Images przeciwko Stability AI. Jakie są główne zarzuty w takich sprawach i co mogą oznaczać dla twórców, użytkowników i dostawców modeli AI?

Gościem Mec. Macieja Jany oraz Mec. Wojciecha Lamika jest Aleksandra Bar - doktor nauk prawnych, adiunkt w Zakładzie Prawa Cywilnego i Prawa Międzynarodowego Prywatnego na Wydziale Prawa, Administracji i Ekonomii Uniwersytetu Wrocławskiego. Autorka publikacji naukowych z zakresu prawa własności intelektualnej, w tym monografii na temat prawnoautorskiego statusu obrazów generowanych z wykorzystaniem AI. Naukowo zajmuje się przede wszystkim problematyką prawa autorskiego i nowych technologii.Tematem odcinka jest problematyka wytworów generowanych przez sztuczną inteligencję w kontekście praw własności intelektualnej.Podczas tej rozmowy poruszyliśmy m.in. następujące kwestie:1. Jak dziś, na gruncie polskiego i europejskiego prawa autorskiego, klasyfikowane są wytwory generatywnej AI?2. Czy da się w ogóle mówić o “utworze” w rozumieniu prawa autorskiego, jeżeli został stworzony całkowicie przez algorytm, bez udziału człowieka?3. Czy wpisanie kilku zdań do narzędzia typu ChatGPT lub DALL·E może uzasadniać uznanie użytkownika za autora lub współautora treści?4. Czy trenowanie takich modeli na istniejących, chronionych utworach może naruszać prawa autorskie ich twórców?5. Czy rozwój AI generującej muzykę czy głosy stwarza realne zagrożenie np. dla wykonawców z perspektywy praw pokrewnych? I jak można się przed tym bronić?6. Jak z punktu widzenia prawa wygląda kwestia odpowiedzialności za naruszenie praw autorskich: kto ponosi ryzyko – twórca modelu, użytkownik, czy może obaj?7. Na świecie trwają już procesy – jak ten Getty Images przeciwko Stability AI. Jakie są główne zarzuty w takich sprawach i co mogą oznaczać dla twórców, użytkowników i dostawców modeli AI?

Gościem Mec. Patryka Skłodowskiego oraz Mec. Wojciecha Lamika są:1) Mirosław Gumularz - doktor nauk prawnych, radca prawny, specjalista z zakresy ochrony danych osobowych i prawa nowych technologii, przewodniczący społecznego zespołu ekspertów przy Prezesie Ochrony Danych Osobowych;2) Tomasz Izydorczyk — inżynier, członek tego samego zespołu ekspertów, inspektor ochrony danych, audytor wiodący ISO w zakresie bezpieczeństwa informacji.Mija 7 lat, od kiedy ogólne rozporządzenie o ochronie danych (czyli RODO) rozpoczęło swoje stosowanie. W tym czasie pojawiło się wiele mitów w związku z jego wdrażaniem i wykorzystaniem przez administratorów i procesorów. W ostatnim czasie coraz głośniej – zarówno w Unii Europejskiej, jak i w Polsce - słychać głosy o potrzebie deregulacji RODO oraz obowiązków, jakie z niego wynikają.Podczas rozmowy poruszyliśmy m.in. następujące kwestie:1) Czy w Twojej ocenie RODO w ogóle zdało egzamin, czy jednak faktycznie wymaga zmian?2) Czy RODO blokuje biznes (w szczególności ten mały i średni) bo nakłada za dużo obowiązków?3) Czy model RODO, zgodnie z którym przepisy tego rozporządzenia dają ogólne wskazówki, czasem podpowiedzi co i jak robić - w obecnych zmieniających się realiach (AI, nowe technologie) jest w stanie się obronić?4) Czy zasada rozliczalności nie powoduje, że RODO to przerost formy nad treścią, bo tworzymy dokumenty bez większej refleksji, których nikt nie czyta?5) Jak powinna wyglądać rola Inspektora Ochrony Danych w organizacji administratora, mając na względzie ostatnie stanowisko Prezesa Urzędu Ochrony Danych Osobowych?

Gościem Mec. Katarzyny Załęskiej oraz Mec. Wojciecha Lamika jest Joanna Ryczek - adwokat, starszy prawnik w poznańskiej kancelarii Głowacki i Wspólnicy. Specjalizuje się w ochronie własności intelektualnej oraz prawie reklamy. Wspiera klientów w organizacji współprac influencerskich, zajmuje się compliance reklamowym – opiniuje reklamy, weryfikuje znakowanie reklam w social mediach.Tematem odcinka są prawne aspekty influencerów wygenerowanych przez AI.Podczas tej rozmowy poruszyliśmy m.in. następujące kwestie:1. Jak rozwinął się marketing inluencerski jako trend rynkowy?2. Ryzyka przedsiębiorców związane z korzystaniem z usług influencerów.3. Kiedy pojawili się pierwsi AI influencerzy?4. Jak powstaje AI influencer?5. Kto odpowiada za działalność AI influencera?6. Jak wyegzekwować roszczenia związane z AI influencerem?7. Czy AI influencer jest twórcą utworów w rozumieniu prawa autorskiego?8. Skąd bierze się „twórczość” AI influencerów?

Gościem Mec. Dominiki Fikus-Graf oraz Mec. Wojciecha Lamika są:1) Inga Skowrońska - współpracuje z Uniwersytetem SWPS, Filią we Wrocławiu, adwokat. Zajmuje się prawem karnym i gospodarczym. W swojej praktyce zawodowej kieruje się duchem legal designu;2) Mateusz Antczak — projektant graficzny, wykładowca akademicki, członek zespołu Centrum Legal (Communication) Design.Tematem odcinka jest Legal Design jako wsparcie w zakresie spełniania różnych obowiązków informacyjnych. W wielu aktach prawnych tego typu powinności są nakładane na różne podmioty. Dla przykładu, jest szereg obowiązków informacyjnych, jakie należy udzielać konsumentom, czy też osobom, których dane są przetwarzane na podstawie RODO.Podczas rozmowy poruszyliśmy m.in. następujące kwestie:1) W jaki sposób Legal Design może pomóc w realizacji obowiązków informacyjnych?2) Jak prawnicy mogą wykorzystywać legal design? Czy edukacja prawna klienta za pomocą legal designu jest korzystna dla prawnika? Jakie są wyzwania dla prawników w pracy metodą legal design?3) Jak projektuje się rozwiązania wizualne z obszaru legal design? Czy więcej elementów wizualnych znaczy lepiej? Gdzie znaleźć złoty środek?4) Czy żeby zacząć z legal design, potrzebna jest szeroka wiedza na temat narzędzi do projektowania? Czy jesteście w stanie polecić jakieś narzędzia dla osób, które nie czują się mocne w zaawansowanych narzędziach graficznych?5) Jakie są kluczowe różnice w podejściu do legal design z perspektywy prawnika i projektanta?

Gościem Mec. Anny Zalesińskiej oraz Mec. Wojciecha Lamika jest Sylwester Szczepaniak – radca prawny, of Counsel w Kancelarii Traple, Konarski, Podrecki i Wspólnicy, doradca w prawnych i organizacyjnych zagadnieniach e-administracji oraz procesów paperless w organizacjach. Specjalizuje się w prawie identyfikacji elektronicznej i usług zaufania (podpisy i pieczęcie elektroniczne, doręczenia elektroniczne, elektroniczne znaczniki czasu).Tematem odcinka są e-doręczenia. Mijają pierwsze miesiące, od kiedy radcowie prawni są zobowiązani do posługiwania się ADE. Czy doręczenia elektroniczne przyjęły się w naszym zawodzie? Czy w związku z założeniem ADE, stosowanie skrzynek elektronicznych pojawiły się problemy? Obalimy również kilka mitów związanych z e-doręczeniami.Podczas tej rozmowy poruszyliśmy m.in. następujące kwestie:1. Jeśli jesteś radcą prawnym na jednoosobowej działalności gospodarczej, ile musisz mieć adresów? 1 czy 2? A co w przypadku gdy jestem radcą zatrudnionym na etat albo jestem wspólnikiem w spółce? A jeśli jestem jednocześnie radcą prawnym, rzecznikiem patentowym, doradcą podatkowym i doradcą restrukturyzacyjnym. Ile mam mieć skrzynek do e-doręczeń?2. Wykorzystanie skrzynki prywatnej do celów zawodowych.3. Wśród katalogu zawodów zaufania publicznego, które są zobowiązane do posiada ADE, nie ma syndyków. Czy zatem oni nie muszą posiadać ADE?4. Czy skrzynka związana z prowadzeniem działalności gospodarczej może być również skrzynką osobistą?5. W jakim zakresie można korzystać z e-doręczeń jako radca prawny? W jakich sytuacjach musimy koniecznie korzystać z e-doręczeń?6. Czy w postępowaniu administracyjnym radca prawny jest zobowiązany do wysyłania korespondencji do urzędu przez e-doręczenia?7. Jak wygląda relacja e-doręczeń i ePuaP?8. Co w sytuacji, kiedy radca prawny chce wybrać się na urlop? Jak będzie wyglądało wówczas odbieranie e-doręczeń?