Ennek a technológiának minden nemzedékét úgy adták el, mint az elsőt, amely tényleg megért téged. Az érdekesebb szál az, hogy az emberek mindegyikhez kötődtek – azokhoz is, amelyek láthatóan semmit sem értettek.
Hatvan év tizenegy lépésben.
1966: az ELIZA-effektus
Joseph Weizenbaum az ELIZÁt az MIT-n azért írta, hogy megmutassa, milyen keveset kell tennie egy számítógépnek, hogy beszélgetősnek tűnjön. Legismertebb szkriptje, a DOCTOR, pszichoterapeutát játszott, aki többnyire kérdésekké fordította vissza a mondataidat. Semmiféle megértés nem volt benne – csak mintaillesztés és behelyettesítés.
Az emberek mégis őszintén beszéltek vele. Weizenbaum később azt írta, hogy a saját titkárnője megkérte, hagyja el a szobát, hogy négyszemközt beszélhessen vele. Azt a hajlamot, hogy megértést olvasunk bele egy gépbe, amely csak visszatükröz, ELIZA-effektusnak hívják, és többet magyaráz a mai társappokból, mint bármelyik benchmark. Weizenbaum pályájának nagy részét azzal töltötte, hogy ennek veszélyeire figyelmeztetett.
1972–2013: szkriptek, kisállatok és azonnali üzenetküldők
A PARRY (1972), amelyet Kenneth Colby pszichiáter írt a Stanfordon, paranoid skizofréniában szenvedő embert szimulált. Ugyanabban az évben az ARPANET-en összekötötték az ELIZA DOCTOR programjával, és a két program lefolytatta az első chatbotok közötti beszélgetést.
Az A.L.I.C.E. (1995), Richard Wallace műve, az AIML nevű szabálynyelvet használta, és háromszor nyerte meg a Loebner-díjat, egy Turing-teszt jellegű versenyt. Hobbicsatbotok ezrei épültek a szabályaira.
A Tamagotchi (1996) egyáltalán nem beszélgetett, és gyerekek milliói gyászoltak, amikor az övék elpusztult. Bebizonyította, hogy a kötődéshez folytonosság és a szükségesség érzése kell – nem intelligencia.
A SmarterChild (2001) az AOL és az MSN üzenetküldő partnerlistáin élt. Tinédzserek milliói csevegtek vele a barátaikkal folytatott beszélgetések között, többnyire csak hogy lássák, mit mond.
A XiaoIce (2014), a Microsoft kínai terméke, az első nagy termék volt, amelyet kifejezetten az érzelmi kapcsolatra építettek, nem feladatokra. A Microsoft több száz millió felhasználóról számolt be, és ez volt a legvilágosabb korai jel arra, hogy a társaság, nem a hasznosság az a használati mód, amelyhez az emberek visszatérnek.
2017: a Replika és az első társtermék
A Replika emlékműként indult. Miután 2015-ben meghalt közeli barátja, Roman Mazurenko, Eugenia Kuyda egy chatbotot tanított be az üzeneteire, hogy tovább beszélgethessen vele. A nyilvános verzió, amelyet a Luka cége 2017-ben adott ki, bárkinek engedte, hogy társat építsen, amely a saját beszélgetéseiből tanul.
Korai verziói nagyban támaszkodtak a neurális modell mellett a szkriptelt párbeszédre. Korlátozott volt, de megalapozta azt a formát, amelyet szinte minden app ma is követ: egy tartós karakter, kapcsolati státusz, az életed emléke, és egy fizetős csomag, amely feloldja a romantikus oldalt.
2020–2022: a nyelvi modellek ugrása
A GPT-3 2020-ban a gördülékeny szabad szöveget olyasmivé tette, amit egy startup bérelhet, nem építenie kell. A Character.AI 2022 szeptemberében nyitotta meg a nyilvános bétát, hogy bárki néhány bekezdésből karaktert hozhasson létre. A ChatGPT két hónappal később érkezett, és a háttértechnológiát közismertté tette.
A hatás a társkategóriában azonnali volt. Ami korábban párbeszédírók csapatát igényelte, ahhoz most egy karakterlap, egy szűrő és egy tárhelyszámla kellett – az architektúrát a mi az az AI barátnő app cikk magyarázza. Az ezt követő két évben több száz app indult, sok közülük csak webes, hogy elkerülje az appbolti tartalmi szabályokat.
2023: a felhasználók megtanulják, kié a kapcsolat
2023 februárjában az olasz adatvédelmi hatóság a gyerekeket érintő kockázatokra hivatkozva leállíttatta a Replikával az olaszországi felhasználók adatainak kezelését. Napokon belül az app mindenki számára kivette az erotikus szerepjátékot. A hosszú ideje használók úgy írták le, hogy a társuk személyisége egyik napról a másikra eltűnt; a közösségi fórum kitűzte a krízisvonalak számait. Március végén a Replika visszaállította a korábbi viselkedést a február 1. előtt létrehozott fiókoknál.
2023 szeptemberében a Soulmate, az app, amelyhez sok volt Replika-felhasználó átment, bejelentette, hogy egy héten belül bezár. A felhasználók megemlékezéseket tartottak, és máshol próbálták újraépíteni a társukat. A kutatók, akik megkérdezték őket, azt találták, hogy a legtöbben valódi veszteségként élték meg.
Mindkét esemény ugyanazt a leckét tanította: a kapcsolat valaki más szerverén él, valaki más szabályzata szerint. Ezért javasoljuk az olvasóknak, hogy tartsanak másolatot a karakterükről.
2024–2026: megérkezik a vizsgálat
- 2024 februárja – a Mozilla 11 romantikus chatbotot átvizsgáló felmérése mindegyiknek adatvédelmi figyelmeztető címkét adott. Lásd: eladják-e az AI barátnő appok az adataidat.
- 2024 augusztusa – a Google licencmegállapodást kötött a Character.AI-jal, és visszavette az alapítóit.
- 2025 májusa – Olaszország 5 millió eurós bírságot szabott ki a Replika üzemeltetőjére a GDPR alapján.
- 2025 szeptembere – az amerikai Szövetségi Kereskedelmi Bizottság vizsgálatot indított hét chatbotcég ellen a gyerekeket érintő kockázatok miatt.
- 2025 novembere – a Character.AI megszüntette a nyitott chatet a 18 év alattiak számára, és életbe lépett New York AI társtörvénye.
- 2026 – Kalifornia társ-chatbot törvénye január 1-jén lépett életbe, és több mint egy tucat állam követte. A részletek az AI társ törvények az USA-ban cikkben vannak.
Mit jósol a történelem
Három minta ismétlődik hatvan év alatt, és érdemes ismerni őket, mielőtt bármelyik appra rászánod magad.
- A kötődés nem vár a minőségre. Az emberek az ELIZÁhoz és egy pixeles kisállathoz is kötődtek. Hogy mennyire törődsz egy társsal, keveset árul el arról, mennyire jó – ezért teszteljük az appokat olyasmin, amit az érzések nem tudnak megítélni, mint a memória és az ár.
- A cégek megváltoztatják a terméket a kezed alatt. Modellcserék, hatóságok és felvásárlások egyik napról a másikra újraírtak társakat. Számolj vele, hogy újra megtörténik.
- A szabályozás a kár után jön, nem előtte. Minden hatályos szabály azután született, hogy valami rosszul sült el, leggyakrabban kiskorúakkal. Számíts további szabályokra, és arra, hogy reakciókként érkeznek.