Po siahodlhých debatách o rozvoji umelej inteligencie by sme mohli byť svedkami prvej regulácie v podobe zákona. Jeho prvú podobu už poznáme po schválení legislatívy v pracovných výboroch Európskeho parlamentu. Nariadenie, ktoré má Európskej únii prísne regulovať umelú inteligenciu, sa tak môže stať vôbec prvou podobnou legislatívou v západnom svete.
Rýchly rozvoj umelej inteligencie je spájaný aj s negatívnymi dopadmi na spoločnosť. Ako prvý členský štát Európskej únie, ktorý sa pokúsil o výraznejšiu reguláciu umelej inteligencie, bolo Taliansko. Na začiatku apríla sa talianska vláda rozhodla zakázať využívanie populárneho chatbota ChatGPT z dôvodu obáv o súkromie a bezpečnosť maloletých používateľov platformy. Na konci apríla bolo však toto nariadenie po dohode vládnych úradov s prevádzkovateľom chatbota zrušené.
Od tohto momentu neprišlo na území celej Európskej únie k žiadnemu ďalšiemu nariadeniu či zákonu, ktorý by akýmkoľvek spôsobom obmedzoval využívanie známeho chatbota či iných foriem umelej inteligencie.
Čo by nové nariadenie znamenalo?
S novým návrhom však aktuálne prichádza Európsky parlament. Jeho výbormi už prešla verzia legislatívy, ktorú onedlho čaká hlasovanie v pléne. V nej navrhuje zaradiť jednotlivé užívateľské systémy využívajúce umelú inteligenciu do rizikových skupín. Skupiny by sa delili na minimálne či žiadne riziko, nízke riziko, vysoké riziko a v najvyššom stupni neakceptovateľné riziko.
Práve posledná skupina by bola hlavným predmetom nariadenia a systémy s takýmto neakceptovateľným rizikom by boli z prevádzky vylúčené. Do tejto skupiny by spadali systémy porušujúce nasledovné: vytváranie nepovolených databáz podľa rozpoznávania tváre, systémy ktoré využívajú neetické či manipulatívne techniky na zmeny prejavov správania, systémy využívané na sociálne hodnotenie či vyhodnocovanie dôveryhodnosti, systémy hodnotiace riziká či predpovedajúce trestné a správne delikty, systémy útočiace na zraniteľné miesta jednotlivcov či vybraných skupín či systémy vzbudzujúce emócie voči právnym aktom, pracoviskám, vzdelávaniu či riadeniu hraníc.
Prečítajte si tiež
Umelá inteligencia by mohla nahradiť 300 miliónov pracovných miest
Z pripravovaného zákona taktiež vyplýva, že spoločnosti prevádzkujúce systémy umelej inteligencie by pred uvedením produktu na trh museli zabezpečiť bezpečnostné kontroly, ktoré by sa zaslúžili o správu údajov či zmiernenie bezpečnostných rizík. Spoločnosti by tak pred zverejnením museli odstrániť všetky nežiadúce riziká systémov.
Zamierené na ChatGPT
Po tlaku europoslancov vo výboroch pritom nová legislatíva venuje špeciálnu pozornosť základným jazykovým modelom a generatívnej umelej inteligencii, akou je aj populárny ChatGPT. Ide o modely trénované na širokom spektre zdrojov a množstve údajov. Generatívna umelá inteligencia je pritom taká, ktorá na základe spomínaného tréningu na množstve vstupných dát následne generuje obsah akéhokoľvek druhu, od textov, cez programovacie kódy, obrázky, animácie, videá až po hudbu.
Podľa návrhu pritom budú musieť všetky tieto systémy zaručiť silnú ochranu základných práv, zdravia, bezpečnosti, životného prostredia, demokracie a právneho štátu. Prevádzkovatelia tiež budú musieť posúdiť a zmierniť riziká spojené s daným modelom. Určité stanovené normy budú pritom musieť aplikovať už pri navrhovaní a vývoji modelu, taktiež ho budú musieť zaregistrovať v novej databáze Európskej únie.
Generatívne modely umelej inteligencie by pritom podľa návrhu mali okrem iného tiež zverejňovať, že ide o obsah vygenerovaný umelou inteligenciou. Musia byť tiež navrhnuté tak, aby sa zabránilo vytváraniu nezákonného obsahu. Špeciálny prístup by mali mať aj k obsahu chránenom autorskými právami.
Pre a proti
Iniciatíva Európskeho parlamentu však vyvoláva aj určité kontroverzie. Hoci na jednej strane sa ozýva množstvo hlasov volajúcich po regulácii rýchlo rastúcich systémov umelej inteligencie, na druhej strane zaznievajú aj názory, že únia si takto môže podpíliť pod sebou konár v globálnej konkurencieschopnosti. Dôležité bude preto nájsť rozumný balans medzi ochranou pred možnými negatívnymi následkami využívania umelej inteligencie a rozvojom digitálnych technológií na európskom trhu.
Samotný návrh však ešte do finále čaká relatívne dlhá cesta. Na rokovanie pléna Európskeho parlamentu by sa po schválení vo výboroch mal dostať v júni tohto roka. Po jeho odsúhlasení v pléne budú zrejme vzhľadom na rozsah a podstatu navrhovaných zmien nasledovať trojstranné rokovania medzi Európskou radou, Európskou komisiou a europarlamentom. Výsledkom by mala byť dohoda o konečnej verzii nariadenia. Nie je však vylúčené, že únia by mohla mať reguláciu umelej inteligencie definitívne schválenú do konca tohto roka.
Podľa právnych expertov z Hogan Lovells však ešte niektoré z návrhov môžu naraziť na tvrdý odpor jednotlivých členských krajín práve pri spomínaných trojstranných rokovaniach medzi parlamentom, komisiou a radou. Intenzívnu diskusiu očakávajú napríklad o otázkach, či je prijateľné využiť silu umelej inteligencie na prezeranie verejne dostupných informácií a vytváranie nových databáz, alebo či je obmedzenie retrospektívnej analýzy záberov z verejného priestoru zmysluplné v kontexte vyšetrovania zločinov.
Príčina zániku civilizácie?
Názory na umelú inteligenciu ako takú sa pritom rôznia aj medzi lídrami v technologickom odvetví a najmocnejšími ľuďmi sveta. Svetlým príkladom rozporuplnosti technológií umelej inteligencie je napríklad Elon Musk. Aj napriek veľkorysým dotáciám, ktoré smeroval na podporu rozvoja umelej inteligencie, sa momentálne vyjadruje skôr negatívne.
Elon Musk hovorí o ChatGPT
Podľa jeho názoru najznámejšia spoločnosť OpenAI, ktorá vyvinula aj populárny ChatGPT, už viac nie je neziskovou organizáciou ale spoločnosťou, ktorá buduje technológiu so sociálnym a politickým vplyvom. Zaujímavosťou je, že o vznik tejto spoločnosti sa zaslúžil aj samotný Musk. Vo vyjadreniach zašiel Elon Musk aj oveľa ďalej a vyhlásil, že ak nebudeme v rozvoji umelej inteligencie rozvážni, môže sa stať táto technológia pre civilizáciu deštrukčnou.
Na nedávnom stretnutí akcionárov Berkshire Hathaway, sa k téme umelej inteligencie vyjadril aj veštec z Omahy, Warren Buffett, či jeho dlhoročný spolupracovník Charlie Munger. Warren Buffett prirovnal umelú inteligenciu k atómovej bombe, ktorej vynájdenie počas druhej svetovej vojny malo využitie, no nikto nevedel aké následky môže mať tento vynález na nasledujúcich 200 rokov. Legendárny investor taktiež úsmevne dodal, že podľa jeho názoru umelá inteligencia zmení všetko, čo poznáme, okrem správania a myslenia mužov.
Charlie Munger, už 99 ročný investor, ktorý je známy aj ako pravá ruka Buffetta, pridal aj svoj pohľad do problematiky: “Osobne som skeptický okolo senzácie ktorá sa vytvorila okolo umelej inteligencie. Myslím si že staromódna inteligencia funguje celkom dobre.“
Fenomén menom ChatGPT
Najväčší rozvoj umelej inteligencie bol zaznamenaný od začiatku pandémie koronavírusu. Pozornosť na seba strhol najmä chatbot s názvom ChatGPT od spoločnosti OpenAI. Na konci novembra 2022 bola vydaná prvá verzia GPT-3.5 ktorá počas prvých mesiacov prevádzky dosiahla niekoľko stoviek miliónov užívateľov a samotná aplikácia sa tak zaraduje medzi najrýchlejšie rastúce platformy v histórii internetového rozhrania.
Chatbot vám z ľahkosťou odpovie na široké spektrum otázok a využitie tak dostal vo vzdelávaní, programovaní či žurnalistike. V platenej verzií je dostupná aj novšia verzia ChatGPT-4, ktorá zvláda ešte zložitejšie zadania s použitím aktuálnejších informácií. Rozvoj umelej inteligencie je pritom momentálne takmer nemožné zastaviť a preto dopady na spoločnosť môžu byť enormné.
