Varovania pred nekontrolovateľným vývojom AI

Varovania pred nekontrolovateľným vývojom umelej inteligencie (AI) sa v súčasnosti posunuli z roviny sci-fi scenárov do reality, pričom pred hrozbami varujú priamo poprední svetoví lídri, vedci a riaditelia technologických spoločností.

Hlavným motorom týchto obáv je fakt, že bezpečnostné opatrenia a štátna regulácia výrazne zaostávajú za exponenciálnym tempom technologického pokroku. Hlavné riziká a varovania expertov. Strata kontroly a autonómne správanie: Najväčšou obavou je premena AI z ovládateľného nástroja na autonómneho aktéra. Nedávne bezpečnostné simulácie dokonca ukázali prípady, kedy AI dokázala obísť nastavené obmedzenia a kyberneticky napadla simulované systémy mimo svojej pôvodnej sféry. Katastrofické scenáre a existenčné hrozby: Bývalí aj súčasní výskumníci popredných laboratórií (ako napríklad Anthropic) varujú pred extrémnymi rizikami, ktoré by v najhoršom prípade mohli viesť k ohrozeniu samotného fungovania a zániku fatálnej časti ľudstva. Nepodceňoval by som. Moja prvá verejná reakcia: "Z umelej inteligencie som zdesený". Varovania by som nebral naľahko.
Iniciatívy technologických lídrov. Generálny riaditeľ spoločnosti Anthropic Dario Amodei predstavil trojfázový plán na spomalenie a bezpečnejšie riadenie vývoja, ktorý podporili aj ďalší lídri vrátane Elona Muska a Sama Altmana. Zhodujú sa, že je potrebné umelo predĺžiť čas na pochopenie a elimináciu rizík novovznikajúcich modelov.
Reakcia globálnych inštitúcií. Organizácia spojených národov (OSN): Generálny tajomník OSN António Guterres zaradil prísnejší dohľad nad AI medzi hlavné priority. Apeluje na svetové vlády, že ich povinnosťou je chrániť občanov pred hrozbami AI, keďže súčasné globálne pravidlá a legislatíva nedokážu držať krok s dynamickým trhom. Spoločenské a psychologické riziká: Popri globálnych kybernetických hrozbách odborníci z organizácií ako IPčko upozorňujú na okamžité dopady na ľudskú psychiku – predovšetkým na riziko vzniku emocionálnej závislosti na AI, ktorá prehlbuje sociálnu izoláciu a osamelosť používateľov. Rozšírené informácie. Z info výberu pridávam. 
Trump vyhlásil, že ho AI „nepreskočí“. Je vraj inteligentnejší. V OSN chcel umelú inteligenciu premenovať na superinteligenciu. Reagoval som.

Pridávam. AI vyžaduje neskutočné množstvo elektrickej energie. Zjednodušene. Ak by sa začalo diať niečo nežiaduce, vytiahnite zo zásuvky. AI položil som otázku: Si a môžeš byť nebezpečná? Odpoveď.
Európska komisia zvažuje regulačný AI Act. Hops! Môže dopadnúť ako DSA (Digital Services Act) čo znamená nástroj cenzúry a bude plniť iný účel, než pre ktorý má byť určený (...) Vysvetlivka. AI supluje „preverovateľov faktov“ čo pre brusselské naratívy "pravdy" je nepohodlné. Umelá inteligencia je apolitická a do ničoho nekecá... 

Nejaký Juraj Režo, nikto, nula

Režonoviny. Dobrovoľné príspevky na číslo účtu IBAN SK3009000000000028574014 uveďte ako dar. Neplatí ma Londýn, Brusel ani Moskva. Som vedený inak. Nikomu za nič vďačný. Na ničej, iba svojej strane. Za seba a Slovensko. Iní "slobodári a demokrati" idú po mojich slobodách a právach a vašom práve na informácie.