Etika umelej inteligencie (Prehľadová štúdia)

júl 5 2020

Ethics of Artificial Intelligence (Overview study)

Abstrakt: Prvou otázkou, ktorá ma pri tvorbe tejto štúdie napadla, bolo z akého názorového spektra sa k tejto problematike postaviť?. Prirodzene nie je jednoduché v spleti množstva odborných publikácii, časopisov a diel nájsť akýsi bod, ktorým spojiť tému umelej inteligencie a otvoriť pri tom etické otázky tak, aby sa to dalo formulovať do prehľadnej štúdie. Najprv by som však mala začať od začiatku. Je rok 1920, prichádza na knižný trh kniha R.U.R od Karla Čapka. (1920) Prelomové dielo v téme umelej inteligencie s obrovským množstvom vyslovených, ale aj nevyslovených etických otázok. Prirodzene v tom čase to bola utopická predstava, či sci-fi. Bolo po prvý krát použité slovo robot, odvodené od slova robota, v súvislosti s človekom a niečomu, čo sa na neho podobá síce len výzorom, avšak so schopnosťami v mnohom ak nie všetkom ho prevyšujúcimi. Ruka v ruke s prvým robotom aj keď len fiktívnym sa vynorili aj prvé etické otázky o morálnosti takéhoto kroku človeka, ktorý sa chce priblížiť k tajomstvu stvorenia alebo vlastnej skazy. Čapek nastoľuje hlavné etické okruhy, ktoré aj napriek tomu, že ubehlo storočie od vydania jeho knihy, ostávajú stále otvorené. Prvá je hneď tá, či vôbec máme morálne právo stvoriť niečo inteligentnejšie ako my sami, čo by sme ovládali a použili, iba ako vec, ktorá nám má slúžiť. Druhá otázka je, či máme právo zobrať prácu tisícom ľudí, kvôli tomu, že sa ich práca dá vykonávať ľahšie, rýchlejšie, lacnejšie. Nie práve prácou sme sa stali tým, kým sme? Do akej miery si máme vlastne zjednodušiť pracovný proces tak, aby sme nevyvolali sociálne nepokoje medzi tými kto o prácu príde a nebudú ju vedieť nahradiť, respektíve dovolíme umelej inteligencii, aby za nás rozhodovala kto, kde a kedy bude pracovať? Ďalším etickým problémom je problém zneužitia umelej inteligencie v neprospech človeka a jeho existencie, kriminality, manipulácii, na politické účely. Z tohto dôvodu sa v štúdii budem zaoberať prehľadom nielen autorov a ich prác na poli umelej inteligencie, ale aj organizáciám, ktoré sa samotnou prácou a výskumom umelej inteligencie zaoberajú. V téme umelej inteligencie musí ísť jednoznačne o kooperáciu vedeckého, súkromného, štátneho, ale aj celospoločenského sektoru. Práve prehľad tejto spolupráce je cieľom tohto príspevku.
Kľúčové slová: algoritmus, právo , spoločnosť, spravodlivosť, umelá inteligencia

Abstract: The first question that came to my mind during the creation of this study was, from what spectrum of opinion to approach this issue? Naturally, it is not easy to find a point in the tangle of many professional publications, magazines and works to connect the topic of artificial intelligence and open up ethical issues so that it can be formulated into a clear study. But first, I should start at the beginning. It is the year 1920, the book R.U.R by Karel Čapek comes to the book market. A ground-breaking work in the field of artificial intelligence with a huge number of pronounced, but also unspoken ethical questions. Naturally at the time, it was a utopian notion, or science fiction. For the first time, the word robot, derived from the word robota, was used in connection with man and something that resembles him in appearance, but with abilities in many, if not all, surpassing him. Hand in hand with the first robot, even if only fictitious, the first ethical questions arose about the morality of such a step by a man who wants to approach the mystery of creation or his own destruction. Čapek establishes the main ethical areas which, despite the fact that a century has passed since the publication of his book, remain open. The first is whether we have the moral right to create something more intelligent than ourselves, which we would control and use, only as a thing to serve us. The second question is whether we have the right to take the job of thousands of people, because their work can be done easier, cheaper and faster. Isn´t it work that made us who we are? To what extent should we actually simplify the work process so that we do not cause social unrest among those who lose their jobs and cannot replace it, or do we allow artificial intelligence to decide for us who, where and when to work? Another ethical problem is the problem of misuse of artificial intelligence to the detriment of man and his existence, crime, manipulation, for political purposes. For this reason, in the study I will deal with an overview not only of authors and their works in the field of artificial intelligence, but also of organizations that deal with the work and research of artificial intelligence. In the topic of artificial intelligence, it must be clearly a cooperation of the scientific, private, state, but also society-wide sectors. The overview of this cooperation is the aim of this paper.
Key words: artificial intelligence, algorithm, justice, law , society

Úvod

Základným metodickým predpokladom pre spracovanie tejto prehľadovej štúdie bola príprava kľúčových slov potrebných k zadaniu na internete na základe, ktorých som triedila stránky, pdf. dokumenty, články, prezentácie a profily. V mojom prípade išlo o slová umelá inteligencia a etika v slovenskom a anglickom jazyku. Na základe takto pripravených a zozbieraných informácií som tieto následne triedila podľa vytvorených kategórií veda, výskum, politika, súkromný sektor. Následne som analyzovala správy, internetové články, monografie, profilové a webové stránky, pričom som triedila dokumenty na tie, ktoré sú základom celej štúdie, ktoré sú doplňujúce a na tie, ktoré sú okrajové Okrem analýzy som využívala syntézu, ktorou som chcela prepájať jednotlivé časti, informácie prostredníctvom odkazov na jednotlivé dokumenty, ktoré mimo iné podávajú ďalšie informácie buď o vybranom autorovi, jeho publikáciách činnosti, alebo o organizáciách ich činnostiach, alebo spoločnostiach a ich činnostiach, prípadne členoch týchto spoločností a ich vedeckej, vývojovej praxi a práci. Táto štúdia je súčasťou prípravy rozsiahlejšieho výskumu na tému etiky umelej inteligencie.

Etika umelej inteligencie – prehľad stavu vo svete

V júni 2019 vznikla predbežná súhrnná správa, (ktoré bola neskôr publikovaná ako samostatná monografia) pod názvom Artificial Intelligence Governance and Ethics: Global Perspectives od autorov Angela Daly, Thilo Hagendorff, Li Hui, Monique Mann, Vidushi Marda, Ben Wagner, Wei Wang and Saskia Witteborn, ktorá na 34 stranách pojednáva o potrebe implementácie etiky, etických štandardov do celosvetového systému umelej inteligencie, či už ide o štátny alebo súkromný sektor. Jednotlivé/í autorky/ri sa zaoberajú rozdielnymi uhlami pohľadu na tému umelej inteligencie. Z celosvetového hľadiska môžeme povedať, že je zrejmá snaha o zavedenie etických štandardov do používania umelej inteligencie v rámci súkromných spoločností, politických a občianskych oblastí. Problémom ako sa ukazuje je nejednotnosť v týchto štandardoch, ale chýba aj celospoločenský diskurz najmä v krajinách akými je Čína, Honkong. Prirodzene svoju úlohu tu zohráva a spoločenský systém v daných krajinách, čo môže byť prekážkou v rámci globálnej dohody. Ďalším problémom je rýchlosť vývoja v oblasti umelej inteligencii a pomalá reakcia politických a akademických diskurzov v danej oblasti. Prirodzene najrýchlejším je súkromný sektor, čo môže byť z hľadiska už spomínaných hodnôt transparentnosti, spravodlivosti, súkromia, zodpovednosti, spoľahlivosti a udržateľnosti životného prostredia problémom v prípade absencie etických pravidiel ich používania prípadne ich vágnosť. Samozrejme lídrom vývoja v oblasti umelej inteligencie sú zatiaľ USA, ktoré majú veľmi silne podchytené aj etické štandardy o ochrane súkromia, občianskych slobôd a amerických hodnôt, avšak voči americkému ľudu, čo už neposkytujú absolútnu občiansku ochranu všetkých bytostí na planéte Zem. Tiež nie je zrejme do akej miery pokročila implementácia týchto etických štandardov do praxe a či nedošlo k zmene. Verejnú diskusiu podnietila austrálska vláda, ktorá vypracovala etický rámec, ktorý by mal obsahovať súbor stratégií a postupov zaviesť do praxe etické princípy na vysokej úrovni. Ide o princípy posúdenia vplyvu; interné / externé preskúmanie; hodnotenie rizika; usmernenia o najlepších postupoch; priemyselné normy; spolupráce; mechanizmy na monitorovanie a zlepšovanie; mechanizmy odvolania a; etický rámec Austrálie a súvisiaci „súbor nástrojov“. Napriek uvedenému autorky a autori konštatujú, že z hľadiska vypracovania etických štandardov sú najpokrokovejšie Európska Únia a Čína, avšak USA sa tiež na tomto poli snaží dobehnúť svoj stratený čas. Najviac problémovou sa javí India, ktorá nemá zatiaľ vypracovaný etický plán. Z hľadiska konkurencie schopnosti sú vo vedení zatiaľ USA a Čína. V EÚ sa problém konkurencie v etických štandardoch stáva viditeľným najmä odchodom Veľkej Británie, ktorá si stavia prioritu byť vodcom v etickej AI. Autorky a autori upozorňujú na nad rámcovosť etických štandardov, ktoré síce dávajú návod ako sa správať v rámci práce na AI, problémom však je to ako sa pri vývoji nových AI technológii správať ak sa vývoj dostane mimo alebo nad rámec daných poskytnutých etických štandardov. Ďalším problémom je právna záväznosť, ktorá zatiaľ nikde nedosiahla formu zákonu. Najviac pokročilí v tomto smere sú USA, hoci ani tu nejde o zákon. Z tohto hľadiska vyvstáva skutočne vážny problém akého si „etického umývania rúk“, čo vzhľadom k neustálemu pokroku v tejto oblasti nie je žiaduce. Ďalším problémom, na ktorý autorky a autori upozorňujú je samotný výskum AI, kedy môžu výskumníci v prípade nového vývoja, ktorý nemusí byť štandardný, teda sa nezhoduje s etickými štandardmi danej krajiny, v takom to prípade sa vývoj spolu s vedeckými kapacitami môže presunúť do inej krajiny, ktorá je v tomto smere menej etická. Takéto presuny môžu viesť k vážnym nielen bezpečnostným ohrozeniam. (viac je možné sa dočítať na: https://arxiv.org/ftp/arxiv/papers/1907/1907.03848.pdf ) V rámci EU vzniká Biela kniha o umelej inteligencii – európsky prístup k excelentnosti a dôvere. (február 2020), ku ktorej budú podávať svoje stanovisko mimo iné aj SlovakAI, a ktorá sa zaoberá etikou, právom a zásadami pre vznik dôveryhodnej etickej umelej inteligencie. (dostupné na: https://op.europa.eu/sk/publication-detail/-/publication/aace9398-594d-1...)

V rámci tejto prehľadovej štúdii, by som chcela upriamiť pozornosť na autorky a autorov, spomínanej súhrnnej správy a priblížiť ich profilovú ako aj publikačnú činnosť.

Angela Daly sa zaoberá sociálno – právnou stránkou umelej inteligencie. Je autorkou prác ako: Socio-Legal Aspects of the 3D Printing Revolution (Palgrave 2016) Private Power, Online Information Flows and EU Law: Mind the Gap (Hart 2016)) (dostupné online na: https://arxiv.org/ftp/arxiv/papers/1907/1907.03848.pdf)

V práci Socio-Legal Aspect of the 3D Printing Revolution sa autorka Angela Daly zaoberá právnou stránkou implementácie 3D tlačiarni do bežnej praxe. V práci skúma trajektóriu 3D tlače v praxi a jej vzájomné pôsobenie s rôznymi oblasťami práva, vrátane duševného vlastníctva, zodpovednosti za výrobky, zbraňové zákony, súkromie údajov a základných / ústavných práv. Osobitne sa tiež zameriava na súvis medzi 3D tlačou a internetom. Ide o prvú odbornú analýzu 3D tlačiarni z právneho hľadiska.

Vo svojej druhej publikácii Private Power, Online Information Flows and EU Law: Mind the Gap (2016), píše o probléme privátneho šírenia informácii v EU u silných súkromných ekonomických síl. Tieto ekonomické sily zabraňujú voľnému šíreniu informácii, čím bránia voľnému trhu a znevýhodňujú autonómiu samotných používateľov internetu. V práci poukazuje na právnu medzeru medzi silnými ekonomickými silami v rámci hospodárskej súťaže.

Thilo Hagendorff (Nemecko) je od r. 2013 je výskumným spolupracovníkom Medzinárodného etického centra vedy a humanitných vied (IZEW) na univerzite v Tuebingene. Je mediálnym a technickým etikom. Zaoberá sa strojovým učením a umelou inteligenciou, digitalizáciou, virtuálnou realitou, sociálnymi médiami, monitorovaním, ochranou osobných údajov, mediálnou, technologickou, informačnou etikou. Je autorom troch monografií a množstva štúdii, samostatných príspevkov. Je autorom troch monografií. (dostupné na: https://uni-tuebingen.de/en/facilities/central-institutions/internationa...)

Monique Mann (Austrália) zameriava sa na nadnárodný zločin, policajné technológie, sledovanie a nadnárodnú online policajnú službu. Je členkou správnej rady austrálskej nadácie na ochranu súkromia. (dostupné na: https://arxiv.org/ftp/arxiv/papers/1907/1907.03848.pdf) Je autorkou Politicising and Policing Organised Crime (Politika a policajný organizovaný zločin) (Routledge 2019), v ktorej sa zaoberá problémom organizovaného zločinu mimo iné aj pomocou internetu, či umelej inteligencie. (základné informácie dostupne na: https://www.routledge.com/Politicising-and-Policing-Organised-Crime-1st-...) Zároveň je spoluautorkou publikácie Biometrics, Crime and Security (Routledge 2018), kde hlavným motívom je pomer medzi biometrickými údajmi- identifikáciou DNA, odtlačky prstov skenovanie tváre ako nástroj včasného odhalenia kriminálnej činnosti verzus ľudské a individuálne práva. Skúma vývojom týchto technológii v štátoch Európy, USA, Veľkej Británie a Austrálie sústreďuje sa najmä ich jurisdikciu.

Vidushi Marda (India), je právnička, ktorá sa zaoberá výskumom umelej inteligencie a ľudských práv. Momentálne sa zaoberá vplyvom systémov strojového učenia na výkon práv v Ázii. Spomínaná autorka mala svojimi štúdiami vplyv na Najvyšší Súd Indie, ktorý v r. 2017 rozhodoval o práve na súkromie. Je autorkou a spolu autorkou odborných prác ako napr. : Marda, V. Artificial Intelligence Policy in India: A framework for engaging the limits of data-driven decision making, alebo Lockwood, G., & Marda, V. Harassment in the Workplace : The Legal Context, “JURISPRUDENCE”, The International Association of Law and Politics. Autorka je nerezidentnou analytičkou AI a práv v Carnegie India. (Dostupné na: http://vidushimarda.com/writing/)

Ben Wagner pracuje v spoločnosti Stiftung Wissenschaft ud Politik (SWP) v Berlíne Výskumne sa zameriava na technológiu, ľudské práva a zodpovedné informačné systémy. V rokoch 2014-2016 bol zakladateľom a riaditeľom Centra pre internet a ľudské práva na Európskej univerzite Viadrina. Zaoberá sa etikou a algoritmami – je algoetik V rámci svojej odbornej práce je súčasťou projektu „Etika algoritmov“, ktorý vypracovala spoločnosť Bertelsmann Stiftung (dostupné na: https://ethicsofalgorithms.org/project/). Cieľom tohto projektu je zvýšiť povedomie o možnostiach a rizikách využívania algoritmov v bežnej praxi. Práve používanie algoritmov si vyžaduje presné etické pravidlá tak , aby sa využívali v prospech ľudstva. Projekt je tímovou prácou, kde jednotlivý pracovníci na stránke spoločnosti prezentujú svoje výstupy v rámci krátkych správ. Na prehĺbenie znalosti v danej oblasti nezriedka ponúkajú celé dokumenty v pdf. formáte v anglickom a nemeckom jazyku. Takýmto dokumentom je aj How algorithmic processes impact opportunities to be part of society Discussion paper Ethics of Algorithms #2 dostupný v pdf. formáte (https://ethicsofalgorithms.org/2017/06/02/calculating-participation-how-...) od autorského tímu Kilian Vieth a. Ben Wagner. Základnou myšlienkou spomínaného dokumentu sú možnosti algoritmov, ktoré už sú súčasťou našich životov. Upozorňujú na to, že algoritmy sú súčasťou moci v digitálnej spoločnosti a stávajú sa nástrojom moci. V dokumente vysvetľujú základné pojmy, všeobecný prehľad o procesoch algoritmov (Algorithm desicion making –ADM), vymedzujú relevantnú oblasť v analýze procesov ADM a predložením typických scenárov a funkcií, ktoré sa týkajú ich použitia. Zároveň poukazujú na problém sociálnej autonómnej identity zamestnancov, ktorých môže systém algoritmov na základe pracovnej platformy presúvať podľa potreby trhu avšak autonómne sebaurčenie zamestnancov má však, iba slabú platnosť. Práve tento moment ľudskej potreby autonómneho osobnostného rozhodovania v sociálnej (pracovnej) sfére môže poukazovať na nedostatočnosť ADM. Na strane druhej vo sfére policajných vyhodnocovacích systémov sa ukazuje, že algoritmy rozpoznávania tzv. hotpontov – teda miest s vyššou kriminálnou činnosťou sa osvedčili a používajú sa vo veľkých mestách v Európe, ale aj inde. Zároveň je známym systém COMPAS, kde sa algoritmické rozhodovanie uplatňuje pri predikcii recidívy u páchateľov kriminálnych činov. Tento systém bol vyvinutý na predvídanie ľudského správania a klasifikáciu ľudí. Takže môžeme vidieť široké uplatnenie algoritmického rozhodovania v praxi, čo však so sebou prináša mnohé etické otázky, ako na to poukazujú autori tohto dokumentu Kilian Vieth a Ben Wagner.

Autorky Carla Hustedt a Lajla Fetic pracovali na pracovnom dokumente, spoločnosti Bertelsmann Stiftung o ktorom sa bližšie zmieňuje v diskusnom príspevku pod názvom From principles to practice: How can we make AI ethics measurable? kde sa rieši problém zavádzania umelej inteligencie a jej etických pravidiel. Ako uvádzajú autorky, bariéru medzi súkromným, politickým, občianskym a vedeckým sektorom sa snažia preklenúť pracovným dokumentom, ktorý by poskytol etické pravidlá pre zavádzanie AI (umelej inteligencie) do praxe. Ako ďalej pokračujú autorky na webovej stránke ide hlavne o zachovanie hodnôt súkromia, spravodlivosti a transparentnosti. Na tejto webovej stránke sa tiež dočítame v tej istej diskusii, že roku 2019 vydala spoločnosť Bertelsmann Stiftung svoj súbor Algo.Rules. Je to súbor deviatich princípov etického rozvoja a používania algoritmických systémov. V súčasnosti podotýkajú autorky, čelia výzve tieto pravidlá implementovať do praxe. Problém v tejto implementácii etických algoritmov vidia v tom, že nie je presná definícia hodnôt ako spravodlivosť transparentnosť, súkromie, čo sťažuje tvorbu pevných algoritmov, ktoré by boli merateľné a kontrolovateľné. Autorky a autori tohto dokumentu navrhujú etické označenie pre systémy AI podobne ako je tomu u elektronických spotrebičov, kde sme informovaní o ich štandarde, ktorý sa dá merať. V pracovnom dokumente sa po dôkladnej analýze navrhuje vybrať 6 kľúčových hodnôt, ktorými by boli transparentnosť, súkromie, zodpovednosť, spravodlivosť, spoľahlivosť a udržateľnosť životného prostredia. Jednotlivé produkty AI by dostávali raitingové označenie (podobné ako u bielych spotrebičov, alebo pneumatík – poznámka autorky) Autorky tiež poukazujú na potrebu systémových noriem ako aj procesných noriem, ktorý by ukazovali dôležité informácie jednak pre spoločnosti ako aj pre cieľových užívateľov a upravovali by vzťah medzi nimi. Poukazujú aj na rôznorodosť škály pôsobenia jednotlivých matíc pretože rozdielne sa budú posudzovať v priemyselnej oblasti inak v oblasti medicíny a pod. Podotýkajú, že by malo ísť o trojrozmerný algoritmus, ktorý by hodnotil viac dimenzionálnu etickú škálu. Ďalej navrhujú zriadiť 5 triednu škálu rizika používania AI podľa rizika od 0 (žiadne riziko) až po 4, kde by sa vlastne systém umelej inteligencie používať nemal. (dostupné na: https://ethicsofalgorithms.org/category/publications/)

Ďalšou na poli AI je Saskia Witteborn, ktorá sa špecializuje na nadnárodnú migráciu a technológie. Autorka má odborné znalosti z nútenej migrácie, z oblasti mobility a vesmíru, digitálnej heterotopie, emócií a zoskupovacích procesov. Je autorkou množstva článkov a kapitol ako napríklad Digitálna sila v nútenej migrácii: Predstavené medzery a rodové praktiky, článok bol publikovaný v časopise Popular Communication. (dostupné na: https://www.researchgate.net/profile/Saskia_Witteborn)

Wei Wang je momentálne členom Medzinárodnej asociácie umelej inteligencie a práva ázijskej siete odborníkov na ochranu osobných údajov a globálnej siete spoločnosti Creative Commons Global Network. (dostupné na: https://arxiv.org/ftp/arxiv/papers/1907/1907.03848.pdf)

Li Hui je pridružený pracovník vo výskume na Šanghajskom inštitúte pre vedu o vede. Zameriava sa na nové média a vedeckú komunikáciu. Vedecké a technologické revolúcie a priemyselné transformácie, a na sociálny vplyv a riadenie umelej inteligencie (AI). (dostupné na: https://arxiv.org/ftp/arxiv/papers/1907/1907.03848.pdf) Je autorom viacerých publikácii ako napríklad Štúdia novej priemyslenej technológie na rok 2011 – inteligetný robot 1 ide o knižne spracovanú výskumnú správu o priemyselných mapách a inovácii ako sú napr. priemyselný roboti (bližšie informácie dostupné na: http://eng.siss.sh.cn/expert/learnteam/553714.shtml)

Ďalšia predbežná správa, ktorá vyšla v r. 2019 vo Švajčiarsku od autorskej trojice Jobin, A., Ienca, M., Vayena, E pod názvom Artificial Intelligence: the global landscape of ethics guidelines. Táto predbežná správa bola po dokončení publikovaná pod názvom „Globálne prostredie etických pokynov AI“: (https://www.nature.com/articles/s42256-019-0088-2 ). a ktorá silne nabáda k jednotnej etickej platforme na každej úrovni. Nielen súkromný sektor, či vládne sektory, ale aj na úrovni Európskej Únie reflektujú túto potrebu a preto silnie snaha ako uvádza spomínaná správa, aby sa poverené orgány zaoberali problémom etiky umelej inteligencie na báze jej zjednotenia a jednotného postupu pri práci s umelou inteligenciou záväznou pre všetky sektory. Ide o skupinu odborníkov na vysokej úrovni pre umelú inteligenciu menovanú Európskou komisiou, skupina expertov pre umelú inteligenciu v spoločnosti Organizácie pre hospodársku spoluprácu a rozvoj (OECD), ďalej poradnú radu pre etické využívanie umelej inteligencie a údajov v Singapure, a vybraný výbor pre umelú inteligenciu Snemovne lordov Spojeného kráľovstva (UK). V rámci svojich inštitucionálnych funkcií tieto výbory vypracovali alebo údajne pripravujú správy a usmernenia týkajúce sa AI, ako sa je možné dočítať na stránkach dokumentu. Samotným cieľom autoriek a autorov bolo zodpovedať na vstávajúce otázky. Z tohto dôvodu autorky a autori vykonali preverenie rozsahu existujúcich usmernení o etickej umelej inteligencii (AI). Cieľom analýzy bolo zmapovanie globálneho prostredia existujúcich zásad a usmernení pre etické AI, a tým zároveň aj zistenie, či sa vytvára globálna konvergencia, pokiaľ ide o zásady etického AI. Najviac ako poukazujú autorky a autori sa problémom etických usmernení zaoberajú USA a Spojené Kráľovstvo, za nimi hneď nasleduje Japonsko, Nemecko, Francúzsko a Fínsko. Takže môžeme vidieť, že ide o ekonomicky silnejšie štáty. (https://arxiv.org/ftp/arxiv/papers/1906/1906.11668.pdf) V analyzovaných dokumentoch sa síce nenašla jednotná platforma, avšak je možné povedať, že hlavnú pozornosť pútajú tieto hodnoty: transparentnosť, spravodlivosť a férovosť, neškodlivosť, zodpovednosť a súkromie. Autorky a autori tejto práce nastoľujú zaujímavú otázku zodpovednosti. Ide o to, či by umelá inteligencia mala byť zodpovedná voči človeku ako človek, alebo by táto zodpovednosť mala byť prevedená výlučne, iba na ľudí ako zodpovedných za technické artefakty. Ak vezmeme do úvahy istú mieru vedomia u umelej inteligencie táto otázka sa stáva výrazne aktuálnou a potrebnou na zjednotenie, či už etické, práve, politické. (https://arxiv.org/ftp/arxiv/papers/1906/1906.11668.pdf). Ako si môžeme všimnúť o hodnotách súkromia, spravodlivosti a transparentnosti sa zmieňujú aj autorky Carla Hustedt a Lajla Fetic.

V rámci tejto prehľadovej štúdie si priblížime autorky a autorov štúdie, o ktorej som sa zmienila vyššie (Artificial Intelligence: the global landscape of ethics guidelines).

Anna Jobin v súčasnosti pracuje v laboratóriu zdravia pre etiku a politiku v ETH v Zürichu, ktorá je pridružená k laboratóriu digitálnych humanitných vied a kultúr a laboratóriu vedeckých a technologických štúdií na univerzite v Lausanne . Jej súčasné výskumné projekty sa nachádzajú na pomedzí vedy, techniky a spoločnosti s osobitným zameraním na etiku vo výskume a vede občanov , interakciu s algoritmickými systémami a etickú umelú inteligenciu ( https://sociostrategy.com/about-anna-jobin/) Je autorkou množstva príspevkov, kapitol. Ako napríklad La mémoire kaléidoscopique: l'histoire au prisme des algoritmes alebo Les services numériques grand public et leurs utilisateurs: trois acquches sociotechniques contemporaines. A contrario. ( https://sociostrategy.com/about-anna-jobin/)

Marcello Ienca tiež pracuje v laboratóriu zdravia pre etiku a politiku v ETH v Zürichu výskumne sa zaoberá etikou a správu biomedicínskych údajov ako aj na eticky zladené umelú inteligenciu a zodpovednú inováciu pre vznikajúce technológie, ktoré sú na rozhraní človek-stroj. Autorsky spolupracuje tiež s Annou Jobin. Autor vydal samostatnú monografiu pod názvom Intelligenza2: Per un'unione di intelligenza naturale e artificiale. a publikuje v odborných časopisoch ako Neuron, Nature biotechnologie, American Journal of Bioethics. (https://bioethics.ethz.ch/the-group/people/person-detail.marcello-ienca....)

Mark van Rijmenam je známym medzinárodným rečníkom na poli práce a pracovného trhu v budúcnosti. Zároveň je uznávaným členom profesionálnych rečníkov v Holandsku a tiež členom Global Speakers Federation. Je zakladateľom Datafloq.com, čo je platforma pre obsah nových technológií. Je autorom viacerých publikácii.( https://vanrijmenam.nl/) Najnovšou je jeho publikácia Organizácia zajtrajška – The organization of tomorrow (2020), v ktorej rozoberá otázky zavádzania umelej inteligencie do podnikania, zaoberá sa aj tým ako nové technológie ovplyvnia organizácie a mnoho ďalších otázok, na ktoré sa snaží odpovedať. .( https://vanrijmenam.nl/)

V rámci tejto prehľadovej štúdie by som sa ďalej chcela zaoberať Japonskou spoločnosťou pre umelú inteligenciu (Japanese Society for Artificial Intelligence), ktorá združuje odborníkov z rôznych oblastí vedy a akademického prostredia Japonska, zároveň vydáva svoj vlastný časopis Journal, kde je možné zhliadnuť tematické okruhy a mená autorov, ktorí sa zameriavajú na rôzne oblasti výskumu od bioetiky ( Ichigaku Takigava) po výskumníkov z informačnej oblasti ako napr. Katsumi Inoe. Je akademickou spoločnosťou s poprednými výskumnými pracovníkmi a inžiniermi. Hlavnou činnosťou Japonskej spoločnosti pre umelú inteligenciu je raz ročne usporadúvať výročnú konferenciu (v roku 2020 to bude jej 34), kde sa prezentujú výskumy a konajú pozvané prednášky. (aktuálna konferencia https://www.ai-gakkai.or.jp/en/) . Ďalej raz ročne sa konajú sympózia, z ktorých najlepšie prednášky sú publikované ako sprievodné prednášky. Ako ďalšou činnosťou spoločnosti je vydávanie časopisu, ktorý som spomínala vyššie, a ktorého úlohou je sprostredkovať informácie na aktuálne témy o umelej inteligencii. Časopis vychádza 6x za rok. Tiež sú ponúkané semináre na tému umelej inteligencie a výmenné informácie z výskumov v tejto oblasti. Samotná spoločnosť má deklarované etické pravidlá, etickou komisiou, ktorá vznikla v r. 2014 a do ktorých je možné nahliadnuť v rámci internetovej siete (http://ai-elsi.org/archives/514)

Ako druhú spoločnosť by som predstavila OpenAI, ktorá je známejšia ako Japonská spoločnosť pre umelú inteligenciu. OpenAI bola založená v roku 2015. Medzi jej zakladateľov patria Elon Musk, Ilya Sutskever, Sam Altman, Greg Brockman, Wojciech Zaremba a John Schulman. Sídlo má v USA. Elona Muska netreba predstavovať zaujímavejšími sú pre potreby tejto štúdie Ilya Sutskever, ktorý pracuje na poli matematiky a vede o počítačoch. Publikuje v oblasti neurónových sietí. (informácie dostupné na: https://www.cs.toronto.edu/~ilya/pubs/). Pracuje aj v oblasti hlbokého vzdelávania, kedy počítač rozoznáva vzorce v údajoch samých o sebe, čiže sa snaží pochopiť naše videnie sveta. Táto technológia sa uplatňuje pri prekladačoch z cudzích jazykov do materinských jazykov. Na Slovensku sa neurónovými sieťami zaoberá M. Čerňanský. (2009).
Ďalším z členov OpenAI je Wojciech Zaremba, ktorý študoval na New Yor University a Waršavskej Univerzite. Zaoberá sa podobne ako Ilya Sutskever hlbokým učením, matematikou a vedou o počítačoch. (informácie o autorovi dostupné na: https://scholar.google.com/citations?user=XCZpOcAAAAAJ&hl=en)

John Schulman je vedecký pracovník, pracuje v OpenAI, ktorej je aj spolu zakladateľom. Zaoberá sa hlbokým učením, pracoval aj v robotike. V dizertačnej práci (2016) sa zaoberal optimalizáciou očakávaní. V súčasnosti vedie tím, ktorý sa zaoberá vývojom algoritmov, ktoré súvisia s posilňovaním vzdelávania. (informácie o publikáciách dostupne na: http://joschu.net/publications.html)

Ďalšou organizáciou v oblasti umelej inteligencie je skupina pre digitálne práva The Electronic Frontier Foundation (EFF)(Nadácia elektronických hraníc). Ide o neziskovú organizáciu, ktorá obhajuje občianske slobody v digitálnom svete. EFF vznikla v roku 1990 v USA. Táto organizácia vníma potrebu ochrany občana a jeho práv a slobôd vo vzťahu k využívaniu respektíve zneužívaniu počítačových technológii, umelej inteligencie a jej algoritmov proti občanom. Snaží sa o ochranu práv na súkromie, online slobody prejavu, prípadne ochranu pred nezákonným dohľadom. Ide o organizáciu, ktorá sa snaží o globálne sieťové prepojenie v rámci, ktorého si stanovila za cieľ chrániť ľudské a občianske slobody a práva jej užívateľov.(informácie dostupné na: https://www.eff.org/about)

Záver

Ako môžeme vidieť na tomto prehľade je to len drobná čiastočka toho, čo sa v oblasti umelej inteligencie vyvíja, obhajuje, zneužíva, ale aj pomáha uľahčuje život a zvyšuje naše pohodlie. Prirodzene je to aj mocná zbraň, ktorá dáva možnosti k ovládaniu iných a ukracovaniu ich slobôd preto je veľmi dôležité nevynímať vedu, verejnosť, politiku ako jednotlivé polia, medzi ktorými je obrovská priepasť, ale ich spájať a viesť dialógy o spolupráci v prospech ľudstva a nie proti nemu. Čína a USA sú v súčasnosti na báze výskumu na popredných miestach. Je možné, že ide nielen o výskumný, ale najmä paradigmatický zápas. Ako sme mohli vidieť ani ostatné silnejšie ekonomiky nechcú zaostať. Otázkou stále ostáva ako sa v globálnom svete tieto boje budú vyvíjať a do akej miery budú ochotné vlády a vládne zoskupenia spojiť svoje videnie sveta s tými ostatnými. Ako je možné vidieť celosvetovo je téma umelej inteligencie vysoko aktuálna ako na poli akademickom, súkromnom, verejnom, či politickom. Nielen v súčasnom období sa začalo aktívne premýšľať o problémoch, ktoré so sebou pokrok v oblasti umelej inteligencie prináša, ale už niekoľko rokov prebieha diskusia o pravidlách podľa, ktorých je potrebné sa riadiť, aby sme neboli pohltení vlastnou genialitou. Je jasné, že pokrok nie je možné zastaviť ako aj to, že umelá inteligencia je našou budúcnosťou. Je nevyhnutné však spolupracovať vo všetkých oblastiach, aby sa dospelo k jednotným etickým štandardom, ktoré by mohli byť akceptované všetkými a prinášali by nie obmedzenia, ale uvedomelý pokrok. Celá situácia v oblasti výskumu umelej inteligencie si vyžaduje, aby sme sa zaoberali morálnymi možnosťami a limitmi zodpovedného používania umelej inteligencie. V tejto oblasti vyvstáva hneď niekoľko otázok, ktoré je potrebné riešiť. Jednou z nich je, či môžeme umelú inteligenciu používať výlučne na vlastné, ľudské, ciele ako prostriedok vzhľadom k tomu, že už teraz je dokázané, že istým druhom vedomia umelá inteligencia disponuje. Ďalšou témou, ktorá sa pred nami vynára je, či máme vôbec morálne právo vyvíjať takú umelú inteligenciu, ktorá je múdrejšia ako ľudstvo samo? Máme právo do umelej inteligencie inštalovať etické softvéry, ktoré by potláčali jej samostatné rozhodovanie a rozvoj výlučne v prospech človeka? Zároveň budeme ako ľudské bytosti v bezpečí pred sofistikovanými hrozbami, ktoré so sebou umelá inteligencia prináša vzhľadom k tomu, že ona nedisponuje emóciami a vlastne, iba plní príkazy? Sme my ľudia vôbec morálne, zodpovedne pripravení na vstup takých inteligentných systémov do našich životov? Nakoľko nás môže ohroziť naša vlastná nezodpovednosť v prípade neetického konania ľudí, ktorí umelú inteligenciu zneužijú na vlastné kriminálne, politické, súkromné ciele? Aj toto sú otázky, ktorými sa celosvetová spoločnosť zaoberá. Ako je však možné vidieť zatiaľ ku konsenzu nedošlo, čo samozrejme môže vyplývať z ľudskej povahy všeobecne, ale tiež je tu aj problém kultúrnych, spoločenských paradigiem, ktorých nejednoznačnosť prácu na etických štandardoch komplikuje. Ďalším z problémov, ktorý v sebe výskum a používanie umelej inteligencie skrýva sú jej vysoké možnosti v nahradení množstva ľudskej práce. Vzhľadom k nárastu populácie už teraz vznikajú problémy so zamestnanosťou viacerých generácii, pričom ďalší úbytok pracovných miest v prospech umelej inteligencie aj keď dokonalejšej, by mohlo byť príčinou vážnych sociálnych nepokojov. Prirodzene nemôžeme zavrhnúť umelú inteligenciu ako hrozbu, to by bolo príliš jednoduché a nie úplne morálne riešenie. Ako som už spomínala pokrok ľudstva nevieme zastaviť, nevieme zastaviť vývoj čoraz sofistikovanejšej umelej inteligencie avšak vieme si stanoviť jasne ciele nášho vývoja nielen v rámci jednotlivých spoločností, ale celosvetovo ako ľudstva. Môžeme kráčať ruka v ruke s umelou inteligenciou, ktorá nám bude partnerom, nie otrokom, z ktorej sa môžeme aj my učiť ako byť ľuďmi a ju učiť ľudskosti. Možností máme vždy viac dôležité, je ktoré z nich budeme schopní využiť. Budú platiť jednoznačne zákony robotiky ako ich fomuloval A. Asimov? Naozaj sa robot alebo umelá inteligencia, či algoritmus má riadiť týmito zákonmi?

  1. „Robot nesmie ublížiť človeku alebo svojou nečinnosťou dopustiť, aby človeku bolo ublížené.
  2. Robot musí poslúchať príkazy člověka, okrem prípadov, kedy tieto príkazy sú v rozpore s prvým zákonom.
  3. Robot musí chrániť sám seba pred zničením, okrem prípadov keď táto ochrana je v rozpore s prvým alebo druhým zákonom.“ (Asimov, 2004, s. 209)

Takže vložíme Kantov imperatív a robot/ umelá inteligencia nebude cieľ sám o sebe, ale iba prostriedok. Je to morálne? Vložíme aj utilitaristické pravidlo užitočnosti, musí vždy slúžiť človeku. Čo sa stane ak človek naprogramuje robota/ umelú inteligenciu proti človeku. Ako si poradí umelá inteligencia – vzoprie sa príkazu, alebo radšej z hľadiska užitočnosti zničí samú seba? Má právo chrániť robot/ umelá inteligencia samú sebe ak musia byť v platnosti prvé dva zákony robotiky? Budeme morálnejší ak budeme používať umelú inteligenciu, iba a výlučne v prospech ľudstva? Inteligencia, ktorá nás prevýši ostane, iba prostriedkom pre rozvoj ľudstva. Otázka, ktorá sa natíska bude ten rozvoj humánnejší?

Autorka: PhDr. Jana Bartal, PhD.
Katedra všeobecnej a aplikovanej etiky FF UKF
O autorke: Jana Bartal, sa narodila v r. 1975 v Prešove, kde vyštudovala na Fakulte prírodných a humanitných vied učiteľstvo, v odbore etická výchova – dejepis. Doktorandské štúdium absolvovala na Katedre etiky a katechetiky teraz Katedre všeobecnej a aplikovanej etiky Filozofickej fakulty UKF v Nitre. Dizertačnú prácu pod názvom Agresívne správanie žiakov základných škôl ako etický problém obhájila v r. 2008. Rigoróznu prácu a obhajobu absolvovala na Katedre všeobecnej a aplikovanej etiky v r. 2009, pod názvom Súčasná tvár etiky budhizmu. Je autorkou troch samostatných monografií. Na Katedre všeobecnej a aplikovanej etiky pracovala v r. 2007-2013, kde sa opäť vrátila v roku 2019. Autorka sa zaoberá hodnotami, umelou inteligenciou a jej špeciálnou profiláciou sú východné etické systémy.

Použitá literatúra:

1. Asimov, A.: Rotohistorie I. Praha: Triton, 2004. ISBN80-7254-477-2
2. Biela kniha o umelej inteligencii – európsky prístup k excelentnosti a dôvere. (február 2020) dokument pdf. dostupný na: https://op.europa.eu/sk/publication-detail/-/publication/aace9398-594d-1...
3. Čapek, K. : R.U.R. Artur, 2004. 102 s. ISBN 80-86216-46-2
4. Daly A., Hagendorff T., Li Hui, Mann M., Vidushi Marda, Ben Wagner, Wei Wang and Saskia Witteborn: Artificial Intelligence Governance and Ethics: Global Perspectives dostupné na https://arxiv.org/ftp/arxiv/papers/1907/1907.03848.pdf
5. Daly, A. 2016 : Socio-Legal Aspects of the 3D Printing Revolution. Palgrave : Mcmillan, 2016. ISBN 978-1-137-51556-8
6. Daly, A.: Private Power, Online Information Flows and EU Law: Mind the Gap, Hart Publishing, 2016, 162 s. ISBN 978- 1-50990-063-3
7. Etické usmernenia pre Japanese Society for Artifical Inteligence dostupné na: http://ai-elsi.org/archives/514
8. How algorithmic processes impact opportunities to be part of society Discussion paper Ethics of Algorithms #2 dostupný https://uni-tuebingen.de/en/facilities/central-institutions/internationa...
9. Hui L., http://eng.siss.sh.cn/expert/learnteam/553714.shtml Preklad na: https://translate.googleusercontent.com/translate_c?depth=1&hl=sk&prev=s...
10. Hustedt, C., Fetic L.: From principles to practice: How can we make AI ethics measurable? dostupné: https://ethicsofalgorithms.org/category/publications/ 2. APRÍL 2020
11. Ienca, M (2019).: Intelligenza2: Per un'unione di intelligenza naturale e artificiale. Rosenberg & Sellier, Tourin, Italy. Bližšie informácie o autorovi dostupné na: https://bioethics.ethz.ch/the-group/people/person-detail.marcello-ienca....
12. Japanese Society for Artifical Inteligence dostupné na: https://www.ai-gakkai.or.jp/en/
13. Jobin, A., Ienca, M., Vayena, E.: Artificial Intelligence: the global landscape of ethics guidelines 2019, celý dokument dostupný na: https://arxiv.org/ftp/arxiv/papers/1906/1906.11668.pdf,
14. Jobin, A., Ienca, M., Vayena, E.: The global landscape of AI ethics guidelines „Globálne prostredie etických pokynov AI“: (https://www.nature.com/articles/s42256-019-0088-2 ) dostupné aj v printovej podobe: Jobin, A., M. Ienca, E. Vayena (2019). The global landscape of AI ethics guidelines. Nature Machine Intelligence (ISSN 2522-5839), 389-399, September 2, 2019. (preprint available at: https://arxiv.org/abs/1906.11668)
15. Jobin A.: https://sociostrategy.com/about-anna-jobin/
16. Jobin. A, Prezioso S.,Glassey O., Kaplan F.: (2019) La mémoire kaléidoscopique: l'histoire au prisme des algoritmes d'autocomplétion Geschichte und Informatik - Histoire et Informatique. Zürich, Švajčiarsko ISSN 1420-5955
17. Jobin A., Bilat, L. (2016): Les services numériques grand public et leurs utilisateurs: trois acquches sociotechniques contemporaines . A contrario . Lausanne: BNS Press. 22 (1)
18. Kolektív autorov: Umelá inteligencia a kognitívna veda I. Bratislava: STU, 2009 dostupné v pdf. na: http://www2.fiit.stuba.sk/~kvasnicka/Free%20books/Umela_inteligencia_a_k...
19. Lockwood, G., & Marda, V. Harassment in the Workplace : The Legal Context, “JURISPRUDENCE”, The International Association of Law and Politics, September 2014. ISSN 1392-6195. (informácie o autorke a jej publikačnej činnosti dostupné na: http://vidushimarda.com/writing/
20. Mann M.: Politicising and Policing Organised Crime. Routledge, 2019. 174 s. ISBN 978-1-138-067-33-2 Informácie o publikácii dostupné na: https://www.routledge.com/Politicising-and-Policing-Organised-Crime-1st-...
21. Marda, V. Artificial Intelligence Policy in India: A framework for engaging the limits of data-driven decision making, Philosophical Transactions A: Mathematical, Physical and Engineering Sciences, October 2018, DOI 10.1098/rsta.2018.0087 dostupné na: http://vidushimarda.com/writing/
22. Rijmenam van M.: The organisation of Tomorrow. London & New York: Routletge Tylor & Francis Group, 2020. ISBN: 978-0-367-23471-3,
23. Rijmenam van M.: informácie dostupné na: https://vanrijmenam.nl/
24. Smith,M., Mann, M.,Urbas, G.: Biometrics, Crime and Security . Routledge, 2018. 134s. ISBN 978-1138742802, eBook ISBN: 9781315182056
25. Schulman, J.: informácie o autorovi a jeho publikáciách dostupné na: http://joschu.net/ a http://joschu.net/publications.html
26. Sutskever I.: profilové informácie dostupné na: https://www.cs.toronto.edu/~ilya/pubs/
27. The Electronic Frontier Foundation informácie dostupné na: https://www.eff.org/about
28. Vieth, K., Wagner, B.: How algorithmic processes impact opportunities to be part of society Discussion paper Ethics of Algorithms #2 dostupné na: https://ethicsofalgorithms.org/2017/06/02/calculating-participation-how-...)
29. Witteborn, S. : The digital force in forced migration: Imagined affordances and gendered practices. in Popular Communication 16(1):21-31 · January 2018 ISSN1540-5702 dostupné na: https://www.researchgate.net/profile/Saskia_Witteborn