Je možné, aby UMELÁ INTELIGENCIA získala VEDOMIE? "Také myšlienky odháňam," hovorí expert MACKO

V článku sa dočítate

ROZHOVOR Z DECEMBRA 2022

S četovacím robotom (chatbotom) od OpenAI možno hovoriť v slovenčine takmer na akúkoľvek tému. A spôsob jeho vyjadrovania skutočne pripomína rozhovor so živou bytosťou. Rozumie kontextu, pamätá si, o čom sme sa zhovárali pred niekoľkými minútami... Ako je niečo také možné?

S chatbotmi sa ľudia už mohli stretnúť napríklad pri internetových službách od poisťovne či banky. Jednoduchý robot rozpozná základné požiadavky typu „aký je zostatok na účte“ alebo „čo robiť v prípade poistnej udalosti“ a podľa toho má pripravené odpovede. Ak zadáte otázku, na ktorú nemá pripravenú odpoveď, odkáže vás na infolinku.

Najnovší robot však nielenže rozpoznáva vaše otázky, ale na rozdiel od doterajších systémov dokáže kombinovať poznatky, ktoré má k dispozícii, a poskytnúť vám relevantnú odpoveď. Pred našim dnešným rozhovorom som mu položil otázku: "Mám hovoriť o ChatGPT, čo by si mi o ňom povedal?" Dostal som 300 znakovú odpoveď, ktorá by bola bez problémov okamžite použiteľná v novinárskej praxi. 

Ako to celé funguje?

Samotný robot nemá prístup na internet, no tvorcovia doňho práve z internetu nahrali množstvo poznatkov. Napríklad má v sebe celú Wikipédiu vo všetkých dostupných jazykoch. Podstatný je aj celý „backup“ systém, ktorý je za ním a dokáže rozpoznávať reč aj vyberať jednotlivé údaje.

Uvediem zaujímavý príklad: Chatbota som požiadal, aby mi pomohol s vývojovým programom. Potom som mu povedal, že pracuje inak, než som očakával – a on naozaj dokázal nájsť chybu v programe a poradil mi. Je pravda, že nie celkom presne, ale veľmi sa nemýlil. Sám dokáže vytvárať kusy kódu, s čím som sa doteraz nestretol. Je to veľká revolúcia a osobne si myslím, že táto technológia zmení budúcnosť.

Predkladá mi robot vopred pripravené odpovede zo svojej veľkej databázy, alebo si ich sám vymýšľa?

ČLÁNOK POKRAČUJE NA ĎALŠEJ STRANE

Predkladá mi robot vopred pripravené odpovede zo svojej veľkej databázy, alebo si ich sám vymýšľa?

Kreatívne ich skladá a vymýšľa si. Ak mu dáte dvakrát tú istú otázku, no jemne ju pozmeníte, prekvapivo nezašle tú istú odpoveď. Zjavne dokáže rozoznávať slovesá aj podstatné mená a poskytnúť vám zrozumiteľné originálne odpovede v slovenčine a ešte aj so správnymi pádmi, čo je naozaj zaujímavé.

Hovoríme teda o niečom, čo je bližšie k „všeobecnej“ umelej inteligencii schopnej premýšľať?

Je to veľký krok smerom k vyspelej umelej inteligencii. A z môjho pohľadu sa jeho odpovede začínajú až nebezpečne podobať ľudskej reči. Osobne si dokonca myslím, že takúto technológiu by bolo v budúcnosti ľahké zneužiť, keďže cez obrazovku nebudete mať veľké šance zistiť, či hovoríte s ozajstným človekom, alebo so strojom.

V čom je technológia zneužiteľná?

Napríklad za pomoci technológie deepfaku uvidíme v televízii amerického prezidenta, ako vyhlasuje atómovú vojnu. Reálne pôsobiacemu videu sa už nebude dať veriť, čo je samo o sebe nebezpečné. (Deepfake: Označenie vzniklo spojením deep learning a fake. Takto sa označuje technológia, ktorá vďaka výraznej pomoci umelej inteligencie dokáže vložiť do existujúceho videa napríklad tvár človeka, pozn. red)

ChatGPT je však iba chatovací program, ktorý nedokáže spracúvať videá či obrázky.

To je pravda, program pracuje iba s textovými informáciami, no ak by ste v budúcnosti vykonali napríklad videokonferenciu, tak určite niekomu napadne, ako sa dá podobný systém v kombinácii s deepfakeom zneužiť.

Už ste vysvetlili, že chatbot nečerpá informácie z online prostredia internetu, ale z vopred vytvorenej databázy. Možnosť "surfovať" po internete by jeho potenciál zrejme zvýšila, no dokázal by rozlíšiť nezmysli od faktov? Nezačne si napríklad myslieť, že Zem je plochá?

ČLÁNOK POKRAČUJE NA ĎALŠEJ STRANE

Už ste vysvetlili, že chatbot nečerpá informácie z online prostredia internetu, ale z vopred vytvorenej databázy. Možnosť "surfovať" po internete by jeho potenciál zrejme zvýšila, no dokázal by rozlíšiť nezmysli od faktov? Nezačne si napríklad myslieť, že Zem je plochá?

Zrejme práve to bude jeden z dôvodov, prečo nepracuje s internetom. Mimochodom, on sám sa k tomu aj priznáva. Ak sa ho napríklad opýtate na aktuálne počasie, informuje vás, že nemá prístup k online informáciám.

Budú v podobnej kvalite čoskoro dostupné aj ďalšie chatboty?

Google pracuje na chatbotovi LaMDA, ktorý zatiaľ nie je prístupný verejnosti, takže OpenAI ich v tomto predbehli. Na druhej strane je to pochopiteľné. Neznámej spoločnosti bude každý tlieskať za akýkoľvek zaujímavý pokrok. Ak ale príde s nedokonalým programom technologický gigant akým je Google, všetci mu budú vyčítať aj tie najmenšie chybičky. 
 
Osobne však predpokladám, že produkt od Google bude ešte lepší. Zrejme prinesie aj spracovanie obrazu a možno aj pripojenie na internet.

Približne v polovici roka 2022 priniesli mnohé médiá šokujúce správy o zamestnancovi spoločnosti Google, ktorý bol presvedčený, že ich chatbot nadobudol vedomie. Inžinier menom Blake Lemoine dokonca zverejnil údajnú komunikáciu medzi ním a chatbotom, v ktorej mal stroj vyjadriť obavu o vlastný život. Je vôbec možné, aby si stroj uvedomil vlastnú existenciu?

Myslím si, že tento pán si to buď jednoducho vymyslel, alebo tomu iba chcel uveriť. Ak budem vychádzať zo svojich skúseností, potom je pre mňa nepredstaviteľné, aby stroj nadobudol vedomie. A dúfam, že k ničomu podobnému nikdy nepríde, také myšlienky odháňam.

Spomínanú komunikáciu medzi zamestnancom Google a chatbotom je ešte aj dnes možné dohľadať na internete. Čítali ste ju?
 
Čítal a ak by sme pripustili, že je reálna potom áno, miestami z toho mrazí.  Osobne si ale myslím, že je to celé výmysel. Alebo, že dotyčný pán zverejnenú konverzáciu minimálne do veľkej miery prifarbil.

Dostali ste sa ako technologický novinár do styku aj s chatbotom od Googlu?

ČLÁNOK POKRAČUJE NA ĎALŠEJ STRANE

Dostali ste sa ako technologický novinár do styku aj s chatbotom od Googlu?

Zúčastnil som sa na online mítingu, kde bolo možné klásť otázky prednášajúcemu. Bohužiaľ nám však ozrejmil, že nechcú o finálnom stave technológie informovať, až kým si nebudú istí, že všetko funguje presne tak, ako má. Takže pokúšal som sa, no všetko je zatiaľ zahalené rúškom tajomstva.

Mimochodom na chatGPT od OpenAI ma okrem iného prekvapuje, že technológia, ktorej vývoj a prevádzka museli stáť obrovské peniaze je sprístupnená zadarmo. Tomuto "biznis modelu" naozaj nerozumiem.

Naznačili ste, že chatbot dokáže programovať. Z toho, čo som videl, dokáže napísať aj novinový článok, vymyslieť rozprávku, zrejme by vedel naformulovať aj právnické texty. Oberie táto technológia ľudí o prácu, alebo nám ju, naopak, zjednoduší?

Potenciál je obrovský, no špecialisti to zrejme "prežijú". Ľudská práca je v mnohých aspektoch nezastupiteľná. Novinárčina nie je o vytvorení syntézy z textov, ktoré už niekto napísal, ale o získavaní nových informácii a ich vyhodnocovaní. Lekár sa v kľúčových situáciách musí rozhodnúť a takéto rozhodnutia nemožno ponechať na stroj. A takto by som mohol pokračovať.
 
Vo výsledku takáto umelá inteligencia zrejme vyrieši veľa problémov a určite časom ohrozí niektoré pracovné miesta, no nemyslím si, že by sme tu za pár rokov mali chodiť medzi robotmi.

V ktorom pracovnom odvetví by teda z vášho pohľadu dokázala technológia efektívne nahradiť ľudí už dnes?

V politike...

Typ klasickej "úzkej" umelej inteligencie, ktorý je zameraný na jednu činnosť už poznáme roky a vieme, že nás dokáže prekonať. Dobrým príkladom by mohol byť matematický program, schopný na počkanie riešiť zložité výpočty. Alebo herný program schopný porážať šachových géniov. Ďalším stupňom by teda mohla byť "všeobecná" umelá inteligencia schopná sa učiť a zdokonaľovať sa v každej činnosti. Ako ďaleko sme od takejto scifi predstavy v rokoch?
 
Možno to bude už o päť či sedem rokov. Technologický vývoj aj napriek ekonomickej kríze či vojne napreduje obrovským tempom. 

Zhovárame sa o umelej inteligencii, takže položím aj čisto teoretickú otázku. Výška IQ géniov našich čias, akými napríklad boli Albert Einstein či Stephen Hawking, sa pohybuje nad úrovňou 140. Kam až môže dosiahnuť intelekt umelej inteligencie?

ČLÁNOK POKRAČUJE NA ĎALŠEJ STRANE

Zhovárame sa o umelej inteligencii, takže položím aj čisto teoretickú otázku. Výška IQ géniov našich čias, akými napríklad boli Albert Einstein či Stephen Hawking, sa pohybuje nad úrovňou 140. Kam až môže dosiahnuť intelekt umelej inteligencie?

To nevieme, ale po spomínaných siedmich rokoch bude možno intelekt Einsteina oproti umelej inteligencii polovičný. Pre zaujímavosť spomeniem, že som sa kedysi stretol so zakladateľom Apple, Stevom Jobsom, ktorého IQ mnohí prirovnávajú blízko k Einsteinovi. Musím povedať, že to bolo jedno z najhorších stretnutí v mojom živote. S géniom sa skrátka nedá žiť...

Popularizátor vedy Stephen Hawking v rozhovore pre časopis Wired varoval pred možnosťami umelej inteligencie, ktorá podľa neho môže ľudstvo jedného dňa úplne nahradiť. Mali by sme sa báť? Je to filozofická otázka, no je pre nás dobré stvoriť inteligenciu, ktorá nás vo všetkom predbehne na kilometre?

Na takú otázku vám podľa mňa dnes nebude vedieť odpovedať nikto. No ľudia sa o tvorbu čo najdokonalejšej umelej inteligencie nepochybne snažia. Úprimne sa vám priznám, že na tento Hawkingov citát som si v poslednom čase spomenul viackrát a aj som sa pristihol pri myšlienke, že nekráčame správnym smerom.

Aký bude záver nášho snaženia nevieme. Vytvoriť technológiu, ktorá bude na kilometre prekonávať naše vlastné schopnosti, možno skutočne môže ohroziť ľudskú existenciu. V každom prípade, nech už si o tom myslíme čokoľvek, rozbehnutý technologický pokrok je nezastaviteľný.

Ostanem ešte na moment v tejto filozofickej rovine. Povedzme, že jedného dňa budeme mať k dispozícii mimoriadne pokročilú umelú inteligenciu, ktorá nám bude slúžiť. V podobných úvahách sa často spomína "problém zosúladenia hodnôt." Inými slovami, ak vytvoríme superinteligentný systém, ktorý by dokázal poraziť ľudí, ktorí by sa pokúšali zasahovať do jeho práce. A zadáme mu napríklad úlohu, aby vyriešil globálne otepľovanie. Počítač by teoreticky mohol vyhodnotiť, že práve my sme hlavnou príčinou globálneho otepľovania, čo by bol pre nás problém. Ako sa podobnému scenáru vyvarovať?

O tom môžeme skutočne iba filozofovať, ale áno... Tiež som sa pred časom zamyslel nad tým, ako by asi postupovala umelá inteligencia, ak by mala napríklad zamedziť šíreniu koronavírusu. Naše vtedajšie poznatky hovorili, že jedinou účinnou formou ochrany je izolácia. Všetci sme to nejakým spôsobom porušovali, nejako sme to prežili a dnes tu spolu sedíme, máme nejakú úroveň odolnosti voči novému vírusu atd...

Ak by sa však vo vedúcej pozícii ocitla umelá inteligencia, dodržiavanie izolácie by naozaj tvrdo vyžadovala. Takže v takom prípade... zlatý Matovič... 

Čo pozitívne môže ľudstvu priniesť vyspelá umelá inteligencia?

ODPOVEĎ NA TÚTO OTÁZKU NÁJDETE V GALÉRII