Čo je Google LaMDA AI a prečo si inžinier Google myslí, že je vnímavý?

Starší inžinier v spoločnosti Google tvrdil, že AI LaMDA spoločnosti začala vnímať. Či už to považujete za alarmujúce alebo vzrušujúce, je to veľmi odvážne tvrdenie a možno je ťažké ho dokázať, aj keby to bola úplná pravda.

Čo je LaMDA?

LaMDA je skratka pre Language Model for Dialog Application. Inými slovami, je to jazykový model strojového učenia, ktorý je špeciálne navrhnutý na vytváranie prirodzeného dialógu. Metódy strojového učenia umožňujú počítačom objavovať vzorce a vzťahy v údajoch. Takže napríklad môžete „trénovať“ algoritmus strojového učenia, ako je GPT-3 (ďalší špičkový systém), na všetkých dielach Shakespeara a potom nechať vygenerovať nové originálne texty, ktoré sa čítajú ako Shakespeare.

Ako Sundar Pichai (CEO spoločnosti Google) vysvetľuje v rozhovore pre Yahoo Finance, LaMDA je systém, ktorý je odlišný, pretože bol špeciálne vyškolený na dialóg. Zámerom je poskytnúť systémom Google možnosť zapojiť sa do otvoreného dialógu s používateľmi, ktorý vyzerá ako človek.

Inými slovami, ľudia, ktorí žiadajú produkty Google o konkrétne veci, nemusia meniť spôsob myslenia alebo rozprávania. Môžu interagovať s počítačovým systémom rovnakým spôsobom, akým by interagovali s inou osobou.

Pod kapotou sú všetky súčasné modely strojového učenia v skutočnosti sofistikované matematické a štatistické modely. Generujú algoritmy na základe základných vzorov, ktoré objavia v údajoch. Nakŕmte ich dostatkom vysokokvalitných údajov a tieto algoritmy sa stanú neuveriteľne efektívnymi pri robení vecí, ktoré doteraz dokázali iba ľudia alebo iné prirodzené inteligencie.

Prečo je inžinier Google presvedčený, že LaMDA je vnímavý?

Dotknutý inžinier je Blake Lemoine, ktorý zverejnil rozhovor medzi sebou a LaMDA ako súčasť svojho prípadu, prečo by LaMDA mohla byť vnímavá. Lemoine strávil mesiace rozhovormi so softvérom, vypočúval ho, kládol mu zložité otázky a bolo pre neho ťažké uveriť, že jeho zložité a vhodné odpovede by mohli byť produktom čohokoľvek iného ako vnímajúcej bytosti.

Najlepšie bude, ak si každý, kto chce porozumieť, prečo sa Lemoine takto cíti, prečíta odpovede LaMDA, aby pochopil, prečo je to tak presvedčivé stanovisko. Odpovede LaMDA sú také ľudské, že pripomínajú fiktívnu umelú inteligenciu osobného asistenta z príbehu Spikea Jonzeho Her, v ktorom si človek vytvorí vážny vzťah s konverzačnou AI.

Odhliadnuc od toho, či Lemoineove tvrdenia o LaMDA majú nejakú váhu, stojí za zmienku, že cieľom celého dizajnu LaMDA je vytvárať prirodzený, uveriteľný dialóg s otvoreným koncom. Takže v tomto zmysle jeho presvedčenie naznačuje, že Google dosiahol veľkolepý úspech pri vytváraní dôveryhodného dialógu. Ak mal nejaký systém AI presvedčiť človeka, že je vnímavý, s najväčšou pravdepodobnosťou to bude ten, ktorý je špeciálne navrhnutý práve na to.

Problém je v tom, že tvrdenia o vnímaní nie sú skutočne testovateľné (alebo aspoň nie uskutočniteľné alebo eticky testovateľné) z mnohých vedeckých a filozofických dôvodov. Aby sme pochopili prečo, musíme sa stručne pozrieť na to, čo znamená „rozum“.

Čo je to cit?

Slovo „cit“ v podstate znamená, že niečo (mačka, človek alebo čarovný koberec) má schopnosť cítiť. má rovnaký koreň slova ako „sentimentálny“ alebo „sentiment“. Vnímanie neznamená len to, že niečo má schopnosť vnímať. Váš termostat takmer určite nie je vnímavý napriek svojej schopnosti určiť teplotu. Namiesto toho je sentience o subjektívnom prežívaní pocitov, čo znamená, že na prvom mieste je „predmet“.

Je nebezpečné uviaznuť v sémantike, pretože je pravdepodobné, že Lemoine používa slovo „cit“ zameniteľné s odlišnými pojmami ako „rozumnosť“, „inteligencia“ a „vedomie“. Takže kvôli argumentácii je tu najcharitatívnejšia interpretácia, že Lemoine si myslí, že Lamda je bytosť, ktorá si uvedomuje seba samého, schopná veci cítiť, držať presvedčenia a inak prežívať veci spôsobom, ktorý by sme zvyčajne pripisovali živým tvorom.

V ďalšom diele Lemoine diskutuje o tom, čo si myslí, že LaMDA „chce“ a „verí“, čo podporuje myšlienku, že „cit“ podľa neho znamená viac ako len jeho striktnú definíciu v slovníku.

V prvom rade nerozumieme vnímaniu a vedomiu

Tu je vec: vieme relatívne málo o vnímaní, vedomí, inteligencii a o tom, čo znamená byť entitou, ktorá má tieto atribúty. Trochu ironicky, technológia strojového učenia nám môže nakoniec pomôcť rozlúštiť niektoré záhady o našej mysli a mozgoch, ktoré v nich existujú.

V súčasnosti filozofi a vedci odstraňujú „čiernu skrinku“ vedomia, ale stále sa zdá, že je výsledkom niečoho viac, než len súhrnom jej častí. Vedomie sa javí ako „naliehavá“ vec. Je to „duch“, ktorý je generovaný interakciou mnohých rôznych nervových subsystémov, z ktorých ani jeden sa nezdá byť vnímavý sám osebe.

Podobne sofistikovaná AI, ako je systém generovania obrázkov DALL-E 2, pozostáva z jednoduchších modelov strojového učenia, ktoré sa navzájom dopĺňajú a vytvárajú konečný produkt. Téma zložitosti vyplývajúcej z interakcie jednoduchších systémov je jednou z tém, s ktorou sa vo svete AI stretnete často, a hoci môžeme veľmi dobre rozumieť tomu, ako jednotlivé podkomponenty fungujú, konečné výsledky sú zvyčajne dosť nepredvídateľné.

Uvedomili by sme si dokonca vnímanie v AI?

Ak by v záujme argumentácie bola AI skutočne vnímavá v pravom zmysle slova, vedeli by sme to vôbec povedať? LaMDA bola navrhnutá tak, aby napodobňovala a predpovedala vzorce v ľudskom dialógu, takže balíček je skutočne naskladaný, pokiaľ ide o spúšťanie vecí, ktoré si ľudia spájajú s ľudskou inteligenciou. Trvalo nám však dlho, kým sme primáty (okrem človeka) a zvieratá, ako sú delfíny, chobotnice a slony, považovali za vnímavých – aj keď vo veľkej schéme vecí sú prakticky našimi súrodencami.

Vnímajúca AI môže byť taká cudzia, že by sme nevedeli, že sa pozeráme na jednu priamo pred nami. Je to obzvlášť pravdepodobné, pretože nevieme, aké sú prahové podmienky pre vznik vnímania. Nie je ťažké si predstaviť, že správna kombinácia údajov a podsystémov AI zmiešaných správnym spôsobom môže náhle zrodiť niečo, čo by sa kvalifikovalo ako vnímavé, ale môže to zostať nepovšimnuté, pretože to nevyzerá ako nič, čomu by sme mohli rozumieť.

Ak to vyzerá ako kačica…

Posledný veľký problém s nárokmi na vnímanie v strojoch je rovnaký problém s nárokmi na vnímanie v čomkoľvek inom, vrátane ľudských bytostí. Filozoficky neviete, či niekto z ľudí, s ktorými komunikujete, je skutočne vnímavý alebo nie. Je to klasický filozofický problém zombie, ktorý je myšlienkovým experimentom o hypotetických bytostiach, ktoré sú úplne na nerozoznanie od ľudskej bytosti, okrem toho, že im chýba sentience alebo akýkoľvek typ vedomej skúsenosti.

Ako však ukázal slávny test Alana Turinga, nezáleží na tom, či AI „naozaj“ myslí a cíti. Dôležité je, že dokáže napodobniť vzhľad myslenia a cítenia tak dobre, že nedokážeme rozlíšiť rozdiel. V závislosti od toho, koho sa pýtate, LaMDA už prešla Turingovým testom, čo môže spôsobiť, že Lemoineove netestovateľné tvrdenia budú sporným bodom.