AI w służbie administracji publicznej (#70 - Prawo Nowych Technologii)

Gościem Mec. Hanny Kalinowskiej Krawiec oraz Mec. Wojciecha Lamika jest Marlena Sakowska-Baryła - profesor Uniwersytetu Łódzkiego, doktor habilitowana nauk prawnych, radczyni prawna i partnerka w Sakowska-Baryła, Czaplińska Kancelaria Radców, członkini Społecznego Zespołu Ekspertów przy Prezesie Urzędu Ochrony Danych Osobowych, autorka ponad 200 publikacji z zakresu nowych technologii, w tym prawa informacyjnego.Kolejny odcinek o AI, gdzie poruszamy jeden z rzadszych motywów – cały czas mówi się o wykorzystaniu rozwiązań AI w sektorze prywatnym. Nieliczni tylko podkreślają, że AI może okazać się niezwykle pomocne również w codziennej pracy instytucji publicznych, np. w związku z prowadzeniem różnych badań i usprawniania działań urzędników. Intuicyjnie jednak czujemy, że jest to obszar, który może się wiązać z potencjalnymi licznymi ryzykami dla osób, którym ta administracja ma służyć (przede wszystkim obywatelom).Podczas tej rozmowy poruszyliśmy m.in. następujące kwestie:1. Jak obecnie przejawia się obecność sztucznej inteligencji i jej narzędzi w polskiej administracji publicznej?2. Jakie korzyści dla obywateli niosą za sobą narzędzia AI w administracji publicznej?3. Jak rozwój AI w organach administracji publicznej wpływa na prawników?4. Jakie środki ostrożności organy administracji publicznej wdrażają lub powinny wdrażać, aby zabezpieczyć interesy obywateli?5. Jakie największe wyzwania związane z ochroną danych osobowych pojawiają się obecnie w erze rozwoju AI i jej wdrażaniu w administracji?6. Jak wygląda Polska na tle innych krajów pod względem używania AI w organach administracji publicznej?

Gościem Mec. Kornelii Żebryk oraz Mec. Wojciecha Lamika jest Mec. Dominika Dörre-Kolasa - doktor nauk prawnych, radca prawny, partner w Kancelarii Raczkowski, adiunkt w Katedrze Prawa Pracy i Polityki Społecznej Uniwersytetu Jagiellońskiego, wchodzi w skład Społecznego Zespołu Ekspertów przy Prezesie UODO.W tym odcinku rozmawiamy o zastosowaniu nowych technologii w rekrutacji. Nowe rozwiązania technologiczne z jednej strony są w stanie rozwiązać wiele współczesnych bolączek związanych z tym obszarem (np. obrobienie znacznej ilości napływających CV). Z drugiej natomiast same rodzą nowe problemy (np. nowe możliwości naruszenia ochrony danych osobowych). A to wyłącznie wierzchołek góry lodowej.Podczas tej rozmowy poruszyliśmy m.in. następujące kwestie:1. Jakie są najczęstsze nowe technologie wykorzystywane dziś w rekrutacji i w jaki sposób zmieniają one tradycyjne podejście do pozyskiwania pracowników?2. Nowe technologie często zbierają ogromne ilości danych o kandydatach. Jakie kluczowe zasady RODO muszą mieć na uwadze działy HR, by nie naruszyć prywatności osób ubiegających się o pracę?3. Sztuczna inteligencja jest coraz częściej używana do wstępnej selekcji CV. W świetle RODO i AI Act, jakie są prawne granice i ryzyka korzystania z algorytmów do oceny kandydatów? Co jest dozwolone, a co kategorycznie zakazane?4. W jaki sposób prawo reguluje korzystanie z mediów społecznościowych czy ogólnodostępnych baz danych do weryfikacji kandydatów? Czy HR może swobodnie przeszukiwać profile na Facebooku lub LinkedIn?5. Jakie są najczęstsze błędy prawne popełniane przez działy HR podczas wdrażania nowych technologii w proces rekrutacji i jakie konsekwencje finansowe oraz reputacyjne mogą z nich wynikać?6. W jakich sytuacjach i na jakich warunkach działy HR muszą uzyskać wyraźną zgodę kandydata na przetwarzanie jego danych osobowych, szczególnie gdy wykorzystywane są zaawansowane narzędzia technologiczne?7. Co działy HR są zobowiązane ujawnić kandydatom w kontekście wykorzystania technologii, np. kiedy w procesie rekrutacji używany jest chatbot, system ATS (Applicant Tracking System) czy narzędzia do analizy emocji?8. Dlaczego współpraca z radcą prawnym lub specjalistą ds. ochrony danych jest kluczowa przy wdrażaniu nowych rozwiązań technologicznych w rekrutacji? Jakie są kluczowe obszary, w których prawnik może wesprzeć dział HR?

Gościem Mec. Łukasz Otfinowskiego oraz Mec. Wojciecha Lamika jest Mec. Kamil Szpyt - doktor nauk prawnych, adiunkt w Katedrze Prawa Cywilnego na Wydziale Prawa Uniwersytetu Andrzeja Frycza Modrzewskiego, radca prawny.W odcinku zwróciliśmy uwagę na wykorzystanie narzędzi AI z perspektywy wykonywania naszego zawodu, w tym doradztwa prawnego – nie jest tajemnicą, że obecnie wielu radców prawnych regularnie korzysta np. z ChatGPT czy Copilota w codziennej pracy. W dalszym ciągu wielu z nas zapomina jednak o konsekwencjach, jakie mogą się pojawić z nieprawidłowego korzystania z tych narzędzi.Podczas tej rozmowy poruszyliśmy m.in. następujące kwestie:1) jakie mogą być skutki nieumiejętnego korzystania przez pełnomocników z systemów AI?2) kiedy korzystanie przez radcę prawnego z systemów AI można by uznać za niezgodne z prawem lub zasadami etyki zawodowej? Jakie akty prawne mogą być podstawą odpowiedzialności radcy prawnego za szkody spowodowane wykorzystaniem systemu AI?3) czy radca prawny powinien poinformować klienta, że korzysta w ramach świadczenia usług prawnych z narzędzi AI?4) czy sąd może zobligować radcę prawnego do złożenia oświadczenia w kwestii korzystania przez niego z narzędzi AI czy też fragmentów tekstu wygenerowanych przez takie narzędzia?5) czy radca prawny naraża się na odpowiedzialność dyscyplinarną, jeśli w pismach procesowych powoływałby się na nieistniejące orzeczenia lub tezy z piśmiennictwa - zmyślone przez system AI?6) czy radca prawny może zwolnić się z odpowiedzialności odszkodowawczej, zasłaniając się brakiem odpowiednich kompetencji lub wiedzy o charakterze technologicznym / informatycznym?7) czy dopuszczalne jest umowne ograniczenie lub wyłączenie odpowiedzialności kontraktowej i deliktowej radcy prawnego za szkody spowodowane wykorzystaniem systemów AI przy świadczeniu pomocy prawnej?

Gościem Mec. Bartosza Radusiewicza oraz Mec. Wojciecha Lamik jest Jan Kocoń - dr inż., pracuje w Katedrze Sztucznej Inteligencji Politechniki Wrocławskiej, gdzie zajmuje się sztuczną inteligencją i przetwarzaniem języka naturalnego. Od 2011 pracuje nad projektami związanymi z modelami językowymi, spersonalizowanym uczeniem maszynowym i analizą tekstu. Autor ponad 80 publikacji naukowych. Był kierownikiem naukowym projektu PLLuM, aktualnie koordynuje treningi modeli w projekcie HIVE oraz zarządza tworzeniem laboratorium kontekstowego i spersonalizowanego przetwarzania danych językowych w projekcie CLARIN-PL.Tematem odcinka jest PLLuM - polski model językowy dla sektora publicznego i prywatnego. Zwrócono także uwagę na przyszłość polskich dużych modeli językowych jako konkurencji do ich odpowiedników zagranicznych.Podczas tej rozmowy poruszyliśmy m.in. następujące kwestie:1. Co zainspirowało polskich twórców do stworzenia PLLuM i czym wyróżnia się on na tle innych dużych modeli językowych (LLM) dostępnych na rynku?2. Jakie były największe wyzwania przy trenowaniu modelu PLLuM – zarówno technologiczne, jak i organizacyjne?3. Czy PLLuM był trenowany na danych wyłącznie w języku polskim, czy również na danych wielojęzycznych? Jak to wpływa na jego jakość i uniwersalność?4. Jak twórcy do kwestii zgodności PLLuM z polskimi przepisami dotyczącymi ochrony danych osobowych i prawa autorskiego?5. Czy PLLuM ma otwarty kod źródłowy lub planujecie jego udostępnienie na zasadach open-source? Jakie podejście przyjęliście do jego komercjalizacji?6. Jak wygląda rozwój dużych modeli językowych w Europie na tle USA czy Chin? Gdzie Polska i PLLuM mogą znaleźć swoją niszę?7. Jaki wpływ na przyszłość LLM mają obecnie dyskutowane regulacje – jak chociażby AI Act w Unii Europejskiej?8. Czy w dłuższej perspektywie rozwój krajowych LLM ma sens, czy dominacja globalnych graczy (jak OpenAI, Anthropic czy Google) jest nieunikniona?9. W jakich konkretnych zastosowaniach PLLuM już dziś pokazuje przewagę nad modelami zagranicznymi – czy to w administracji publicznej, edukacji, czy sektorze prawnym?

Gościem Mec. Joanny Skrzypiec oraz Mec. Wojciecha Lamik jest Iga Małobęcka-Szwast - doktor nauk prawnych, adiunktka w Katedrze Prawa Europejskiego na Wydziale Prawa i Administracji Uniwersytetu Warszawskiego. Radczyni prawna specjalizująca się w szeroko pojętym prawie nowych technologii, prawie ochrony danych osobowych, prawie ochrony konkurencji i konsumentów oraz regulacji usług i rynków cyfrowych. Współautorka komentarza do Aktu o usługach cyfrowych (DSA) oraz Aktu o rynkach cyfrowych (DMA).Tematem odcinka jest unijne rozporządzenie - Akt w sprawie danych – Data Act. To jeden z aktów prawnych Unii Europejskiej, który ma na celu lepsze wykorzystanie rosnącej ilości danych w Europie oraz wsparcie w budowie jednolitego rynku danych w UE.Podczas tej rozmowy poruszyliśmy m.in. następujące kwestie:1. Jakie są powody przyjęcia rozporządzenia Data Act?2. Jakie środki mają służyć usunięciu barier w dostępie do danych?3. Jakich danych dotyczy Data Act?4. Kto najbardziej skorzysta na rozporządzeniu w sprawie danych? Firmy, osoby fizyczne czy może sektor publiczny?5. Czy rozporządzenie wymusi na przedsiębiorstwach wspólne standardy danych zapewniające interoperacyjność?6. Czy możesz podać przykłady sytuacji, w których użytkownicy odczują funkcjonowanie rozporządzenia w życiu codziennym?7. W mediach pojawiły się doniesienia o zagrożeniach dla małych warsztatów samochodowych związane ze stosowaniem rozporządzenia. Czy są słuszne?8. Czy rozporządzenie w sprawie danych wymaga przyjęcia przepisów krajowych?

Gościem Mec. Wojciecha Lamika są:1) Michał Nowakowski - radca prawny, ekspert zajmujący się projektami AI & Data na styku technologii, biznesu oraz prawa w kancelarii ZP Zackiewicz & Partners, odpowiedzialny za rozwój obszaru AI i cyberbbezpieczeństwa w kancelarii oraz wspólnik GovernedAI; autor książek, w tym m.in. praktycznych poradników dla sektora fintech.2) Martyna Rzeczkowska - adwokat, Counsel oraz Co-Head odpowiedzialna za rozwój obszaru AI i cyberbbezpieczeństwa w kancelarii ZP Zackiewicz & Partners z prawie 10-letnim doświadczeniem w obszarze prawa nowych technologii, co potwierdza wyróżnienie tytułem Recommended Lawyer w rankingu the Legal 500 w kategorii TMT.To kolejny odcinek o sztucznej inteligencji, ale trochę z innej perspektywy, bardziej kompleksowej. Poświęcono dużo uwagi mechanizmowi AI Governance, a także profesji legal architect. Wdrażanie sztucznej inteligencji to kwestia naczyń połączonych, w tym również potrzeba nowych specjalizacji u prawników.Podczas tej rozmowy poruszyliśmy m.in. następujące kwestie:1. Czym jest AI Governance? Kim jest legal architect?2. Czy prawnik może samodzielnie wdrożyć AI Governance?3. Jak legal architect uczestniczy w projektowaniu rozwiązań AI w organizacji?4. Jakie problemy rozwiązuje legal architect w organizacji?5. W jaki sposób legal architect pomaga zapewnić zgodność z regulacjami takimi jak AI Act, RODO czy DSA?6. Czy legal architect współpracuje z działem IT, compliance, czy może angażuje również inne działy?7. Czy firmy są gotowe na takie podejście do AI Governance?8. Co jest największą przeszkodą we wdrażaniu AI Governance?9. Czy wystarczy wdrożyć AI ACT by zapewnić skuteczny AI Governance?

Gościem Mec. Macieja Jany oraz Mec. Wojciecha Lamika jest Aleksandra Bar - doktor nauk prawnych, adiunkt w Zakładzie Prawa Cywilnego i Prawa Międzynarodowego Prywatnego na Wydziale Prawa, Administracji i Ekonomii Uniwersytetu Wrocławskiego. Autorka publikacji naukowych z zakresu prawa własności intelektualnej, w tym monografii na temat prawnoautorskiego statusu obrazów generowanych z wykorzystaniem AI. Naukowo zajmuje się przede wszystkim problematyką prawa autorskiego i nowych technologii.Tematem odcinka jest problematyka wytworów generowanych przez sztuczną inteligencję w kontekście praw własności intelektualnej.Podczas tej rozmowy poruszyliśmy m.in. następujące kwestie:1. Jak dziś, na gruncie polskiego i europejskiego prawa autorskiego, klasyfikowane są wytwory generatywnej AI?2. Czy da się w ogóle mówić o “utworze” w rozumieniu prawa autorskiego, jeżeli został stworzony całkowicie przez algorytm, bez udziału człowieka?3. Czy wpisanie kilku zdań do narzędzia typu ChatGPT lub DALL·E może uzasadniać uznanie użytkownika za autora lub współautora treści?4. Czy trenowanie takich modeli na istniejących, chronionych utworach może naruszać prawa autorskie ich twórców?5. Czy rozwój AI generującej muzykę czy głosy stwarza realne zagrożenie np. dla wykonawców z perspektywy praw pokrewnych? I jak można się przed tym bronić?6. Jak z punktu widzenia prawa wygląda kwestia odpowiedzialności za naruszenie praw autorskich: kto ponosi ryzyko – twórca modelu, użytkownik, czy może obaj?7. Na świecie trwają już procesy – jak ten Getty Images przeciwko Stability AI. Jakie są główne zarzuty w takich sprawach i co mogą oznaczać dla twórców, użytkowników i dostawców modeli AI?

Gościem Mec. Macieja Jany oraz Mec. Wojciecha Lamika jest Aleksandra Bar - doktor nauk prawnych, adiunkt w Zakładzie Prawa Cywilnego i Prawa Międzynarodowego Prywatnego na Wydziale Prawa, Administracji i Ekonomii Uniwersytetu Wrocławskiego. Autorka publikacji naukowych z zakresu prawa własności intelektualnej, w tym monografii na temat prawnoautorskiego statusu obrazów generowanych z wykorzystaniem AI. Naukowo zajmuje się przede wszystkim problematyką prawa autorskiego i nowych technologii.Tematem odcinka jest problematyka wytworów generowanych przez sztuczną inteligencję w kontekście praw własności intelektualnej.Podczas tej rozmowy poruszyliśmy m.in. następujące kwestie:1. Jak dziś, na gruncie polskiego i europejskiego prawa autorskiego, klasyfikowane są wytwory generatywnej AI?2. Czy da się w ogóle mówić o “utworze” w rozumieniu prawa autorskiego, jeżeli został stworzony całkowicie przez algorytm, bez udziału człowieka?3. Czy wpisanie kilku zdań do narzędzia typu ChatGPT lub DALL·E może uzasadniać uznanie użytkownika za autora lub współautora treści?4. Czy trenowanie takich modeli na istniejących, chronionych utworach może naruszać prawa autorskie ich twórców?5. Czy rozwój AI generującej muzykę czy głosy stwarza realne zagrożenie np. dla wykonawców z perspektywy praw pokrewnych? I jak można się przed tym bronić?6. Jak z punktu widzenia prawa wygląda kwestia odpowiedzialności za naruszenie praw autorskich: kto ponosi ryzyko – twórca modelu, użytkownik, czy może obaj?7. Na świecie trwają już procesy – jak ten Getty Images przeciwko Stability AI. Jakie są główne zarzuty w takich sprawach i co mogą oznaczać dla twórców, użytkowników i dostawców modeli AI?

Gościem Mec. Patryka Skłodowskiego oraz Mec. Wojciecha Lamika są:1) Mirosław Gumularz - doktor nauk prawnych, radca prawny, specjalista z zakresy ochrony danych osobowych i prawa nowych technologii, przewodniczący społecznego zespołu ekspertów przy Prezesie Ochrony Danych Osobowych;2) Tomasz Izydorczyk — inżynier, członek tego samego zespołu ekspertów, inspektor ochrony danych, audytor wiodący ISO w zakresie bezpieczeństwa informacji.Mija 7 lat, od kiedy ogólne rozporządzenie o ochronie danych (czyli RODO) rozpoczęło swoje stosowanie. W tym czasie pojawiło się wiele mitów w związku z jego wdrażaniem i wykorzystaniem przez administratorów i procesorów. W ostatnim czasie coraz głośniej – zarówno w Unii Europejskiej, jak i w Polsce - słychać głosy o potrzebie deregulacji RODO oraz obowiązków, jakie z niego wynikają.Podczas rozmowy poruszyliśmy m.in. następujące kwestie:1) Czy w Twojej ocenie RODO w ogóle zdało egzamin, czy jednak faktycznie wymaga zmian?2) Czy RODO blokuje biznes (w szczególności ten mały i średni) bo nakłada za dużo obowiązków?3) Czy model RODO, zgodnie z którym przepisy tego rozporządzenia dają ogólne wskazówki, czasem podpowiedzi co i jak robić - w obecnych zmieniających się realiach (AI, nowe technologie) jest w stanie się obronić?4) Czy zasada rozliczalności nie powoduje, że RODO to przerost formy nad treścią, bo tworzymy dokumenty bez większej refleksji, których nikt nie czyta?5) Jak powinna wyglądać rola Inspektora Ochrony Danych w organizacji administratora, mając na względzie ostatnie stanowisko Prezesa Urzędu Ochrony Danych Osobowych?

Gościem Mec. Katarzyny Załęskiej oraz Mec. Wojciecha Lamika jest Joanna Ryczek - adwokat, starszy prawnik w poznańskiej kancelarii Głowacki i Wspólnicy. Specjalizuje się w ochronie własności intelektualnej oraz prawie reklamy. Wspiera klientów w organizacji współprac influencerskich, zajmuje się compliance reklamowym – opiniuje reklamy, weryfikuje znakowanie reklam w social mediach.Tematem odcinka są prawne aspekty influencerów wygenerowanych przez AI.Podczas tej rozmowy poruszyliśmy m.in. następujące kwestie:1. Jak rozwinął się marketing inluencerski jako trend rynkowy?2. Ryzyka przedsiębiorców związane z korzystaniem z usług influencerów.3. Kiedy pojawili się pierwsi AI influencerzy?4. Jak powstaje AI influencer?5. Kto odpowiada za działalność AI influencera?6. Jak wyegzekwować roszczenia związane z AI influencerem?7. Czy AI influencer jest twórcą utworów w rozumieniu prawa autorskiego?8. Skąd bierze się „twórczość” AI influencerów?