Musk a ďalší chcú kvôli vážnym rizikám pauzu vo vývoji umelej inteligencie

Stovky akademikov, expertov a podnikateľov zapojených do vývoja umelej inteligencie (AI) vrátane miliardára Elona Muska v novom vyhlásení volajú po najmenej polročnom pozastavení vývoja nových modelov s ohľadom na „hlboké riziká pre spoločnosť a ľudstvo“. Navrhujú, aby vývojári túto pauzu využili na spoločnú prácu na bezpečnostných pravidlách a tiež na vystupňovanie spolupráce so zákonodarcami na silnej regulácii odvetvia.

Výzva na okamžité prerušenie vývoja sa vzťahuje na „tréning systémov AI silnejších ako GPT-4“, čo je nová generácia textového modelu, ktorú tento mesiac predstavila spoločnosť OpenAI.

„Toto prerušenie by malo byť verejné a overiteľné… Ak ho nie je možné urobiť rýchlo, mali by zakročiť vlády a ustanoviť moratórium,“ uvádzajú signatári petície publikovanej neziskovou organizáciou Future of Life Institute. Okrem Muska, ktorý patrí medzi sponzorov OpenAI, sú medzi nimi spoluzakladateľ firmy Apple Steve Wozniak, šéf spoločnosti Stability AI Emad Mostaque, filozof Yuval Noah Harari či profesori zo severoamerických i iných univerzít.

Apel prichádza po mesiacoch prekotného vývoja v odbore takzvanej generatívnej umelej inteligencie, čo je označenie pre modely „vycvičené“ na obrovskom množstve dát, ktoré vytvárajú originálne výstupy na základe identifikovaných vzorcov. Môžu pri tom generovať nielen texty, ale aj obrázky či zvukové stopy pripomínajúce hlasy skutočných ľudí. Vývoj vyvoláva obavy okrem iného zo záplavy dezinformácií a podvodov založených na autenticky vyzerajúcich vizuálnych a zvukových materiáloch.

Aj riaditeľ OpenAI Sam Altman v nedávnom rozhovore priznal, že sa „trošku bojí“. „Musíme tu byť opatrní,“ povedal televízii ABC News pri príležitosti uvedenia GPT-4. Tiež však vyjadril názor, že umelá inteligencia môže byť „najlepšou technológiou, akú doteraz ľudstvo vyvinulo“. Altman podľa informácií agentúry Reuters nebol medzi viac ako 1000 signatárov novej výzvy.

Výzva hneď v úvode varuje pred závažnými rizikami spojenými s umelou inteligenciou, „ako ukazuje výskum a uznali popredné laboratóriá AI“. „Laboratóriá a nezávislí experti by mali využiť toto prerušenie (vývoja), aby spoločne vyvinuli a implementovali sadu zdieľaných bezpečnostných protokolov pre dizajn a rozvoj pokročilej AI… Súbežne musia vývojári AI pracovať so zákonodarcami na dramatickom urýchlení rozvoja robustných systémov regulácie AI,“ píše sa vo vyhlásení.

Preteky medzi vývojarmi sa vymkli kontrole

Posledné mesiace podľa autorov prinášajú medzi vývojármi umelej inteligencie preteky, ktoré sa vymkli kontrole. Ako pripomína Reuters, prelom nastal v minulom roku, keď spoločnosť OpenAI sprístupnila aplikáciu ChatGPT. To prinútilo konkurenčné podniky k urýchleniu vývoja podobných modelov a ďalšie firmy k snahe zapracovať generatívnu umelú inteligenciu do svojich produktov. Snahy o reguláciu týchto technológií sú medzitým v počiatočných fázach.

„Silné systémy AI by mali byť vyvinuté, až keď budeme mať dôveru, že ich dopady budú pozitívne a riziká zvládnuteľné,“ uvádza výzva podpísaná Muskom a ďalšími. Súčasné systémy umelej inteligencie označuje za porovnateľné s ľuďmi vo vykonávaní istých úkonov a nastoľuje otázky ohľadom možného „prechytračenia“ ľudí a „straty kontroly nad našou civilizáciou“.

Kritici tvrdia, že signatári petície potenciál aktuálnych technológií hrubo preháňajú, píše Reuters. „Takéto vyhlásenia majú za cieľ vytvoriť prehnané očakávania. Má to v ľuďoch vyvolať obavy,“ mieni výskumníčka v odbore umelej inteligencie Johanna Björklundová z univerzity vo švédskom Umeaa. „Nemyslím si, že je potrebné ťahať za ručnú brzdu,“ dodala.

Viac o téme: ChatGPT , Elon Musk , OpenAI , riziká , umelá inteligencia AI

Súvisiace články

Aktuálne správy