Zodpovedný riešiteľ: JUDr. Matúš Mesarčík, LL.M.
Začiatok riešenia: 01.06.2019
Koniec riešenia: 31.12.2019
Predmet výskumu:
Projekt Grant UK č. UK/208/2019 „Umelá inteligencia a ochrana súkromia“ je podporený grantovou schémou Grant Univerzity Komenského v Bratislave, ktorý slúži na podporu výskumu interných doktorandov v rámci Univerzity Komenského v Bratislave.
Objektom výskumu zodpovedného riešiteľa je umelá inteligencia a jej vplyv na ochranu súkromia. Použitie umelej inteligencie a špecificky strojového učenia môže mať nemalý dopad na ochranu súkromia osôb napr. pri predpovedaní správania zákazníkov alebo politickom marketingu prostredníctvom algoritmov. Cieľom výskumu je analýza právnych a etických problémov a koncipovanie návrhov a odporúčaní do praxe, primárne v kontexte všeobecného nariadenia na ochranu údajov (GDPR) a právnej úpravy základných ľudských práv a slobôd.
Analýza súčasného stavu
Umelá inteligencia je pojem, ktorý laicky znamená, že určitý výdobytok technologického rozvoja je schopný replikovať kognitívne procesy ľudského mozgu na rovnakej alebo dokonca vyššej úrovní. Vyššie uvedené možno zaradiť pod tzv. všeobecnú umelú inteligenciu. Strojové učenie (machine learning) je podmnožinou všeobecnej umelej inteligencie a z praktického hľadiska znamená, že stroj (algoritmus) sa dokáže sám „učiť“ bez toho, aby bol na tento konkrétny úkon explicitne naprogramovaný, učí sa z „vlastnej“ skúsenosti. Jeho závery sú tak nepredvídateľné aj pre samotného tvorcu predmetného algoritmu. V praxi sa samo-učiace algoritmy využívané nielen v komerčnej sfére napr. pri prevádzkovaní sociálnych sietí na filtrovanie nechceného / nelegálneho obsahu, ale aj na politické ciele pri metódach progresívneho politického marketingu.
Použite strojového učenia na určité účely totiž predpokladá zásah do práva na súkromie resp. práva na ochranu osobných údajov. Ako príklad možno uviesť analýzu správania zákazníkov, prediktívnu analýzu údajov na úseku policajných zložiek prípadne politický marketing s cieľom zvýšenia elektorátu. Okrem analýzy kompatibility z hľadiska ľudských práv je ale potrebné preskúmať aj aspekty ochrany osobných údajov hlavne v kontexte reformného balíka na úrovni Európskej únie. V tejto súvislosti je teda potrebné zabezpečiť súlad s Nariadením Európskeho parlamentu a Rady (EÚ) 2016/679 z 27. apríla 2016 o ochrane fyzických osôb pri spracúvaní osobných údajov a o voľnom pohybe takýchto údajov, ktorým sa zrušuje smernica 95/46/ES (všeobecné nariadenie o ochrane údajov – GDPR). Podľa stanoviska expertnej skupiny Future of Privacy Forum musí umelá inteligencia nevyhnutne zahŕňať tzv. FAT prístup3 – fair, accountable and transparent (spravodlivý, zodpovedný a transparentný) pri spracúvaní osobných údajov. FAT[1] prístup poskytuje základné východisko pri skúmaní predmetných otázok.
Ciele
Zodpovedný riešiteľ si vytýčil dva ciele svojho výskumu.
1. Analýza právnych aspektov umelej inteligencie
Umelá inteligencia predstavuje výzvu pre všetky oblasti spoločenského života, právo nevynímajúc. V zmysle modalít regulácie spoločenského správania podľa profesora Lessiga z Harvard Law School – právo, morálka, trh a architektúra možno hovoriť o právnom pluralizme pri výbere najvhodnejšej metódy regulácie. Právo v tejto súvislosti nemôže zaostávať a zodpovedný riešiteľ si tak v prvom rade kladie za cieľ identifikovať „trecie plochy“ regulácie umelej inteligencie právom a determinovať tak oblasti, v ktorých implementácia technológie môže spôsobiť najväčšie legislatívne problémy. V druhom rade je nevyhnutné zvýrazniť uvedomenie si potreby právnej regulácie aj na úrovni Európskej únie, či už v podobe právneho alebo etického prístupu. Prvým cieľom je tak komplexná analýza legislatívneho a etického prístupu k regulácií umelej inteligencie na národnej a medzinárodnej úrovni.
2. Umelá inteligencia a vplyv na ochranu súkromia
Umelá inteligencia zasahuje a zasiahne do mnohých oblastí spoločenského života a regulácie. I keď v ostatnom období sa diskusia presúva hlavne k téme právnej zodpovednosti umelej inteligencie za svoje konanie,[2] zodpovedný riešiteľ sa domnieva, že pozornosť je potrebné venovať aj tzv. mäkkým dopadom technológií na ľudské spoločenstvo ako také. Jednou z predmetných oblastí je aj ochrana súkromia. Smart home v podobe integrácie internetu vecí a fenoménu Veľkých dát (Big Data) nie je potrebné hlbšie predstavovať. Policajné zložky v súčasnosti prechádzajú k implementácií prediktívnej analýzy údajov tzn. predpovedaniu budúcej kriminality prostredníctvom už zozbieraných údajov. Automatizované algoritmy súkromných spoločností dokážu predikovať správanie zákazníkov, politické strany využívajú metódy progresívneho politického marketingu a spracúvajú údaje užívateľov sociálnych sietí s cieľom dosiahnuť rozšírenie elektorátu. To je len zlomok z potenciálu umelej inteligencie z hľadiska ovplyvnenia súkromia. Z týchto dôvodov považujeme za nevyhnutné analyzovať legislatívu týkajúcu sa ochrany súkromia a ochrany osobných údajov a kompatibilitu s využívaním umelej inteligencie.
V doterajšom priebehu projektu zodpovedný riešiteľ koncipoval dva výstupy, ktoré budú publikované na prelome rokov 2019 a 2020. Zodpovedný riešiteľ taktiež prezentoval svoje závery na medzinárodných vedeckých konferenciách konaných na Slovensku a v zahraničí (Gyor – Maďarsko). Predmetné výstupy predstavujú:
- Introduction to Artificiall Intelligence and Privacy (bude publikované v rámci žurnálu vydanom vo vydavateľstve De Gruyter);
- Policajné profilovanie v kontexte základných práv a slobôd (bude publikované v rámci časopisu Actas Facultas Iuridicas Comeniane 2/2019).
[1] The Privacy Expert’s Guide to AI And Machine Learning, s 22 (https://fpf.org/2018/10/18/fpf-release-the-privacy-experts-guide-to-ai-and-machine-learning/).
[2] Pozri napr. LEENES, R. – LUCIVERO, F. : Laws on Robots, Laws by Robots, Laws in Robots: Regulating Robot Behaviour by Design. Law, Innovation and Technology (2014) 6(2) LIT 194–222.