A kitalált társak piaca karaktereket árul. A klónok piaca embereket árul, pontosabban olyan modelleket, amelyek úgy hangzanak, mint ők. Az ötlet üzletileg kézenfekvő, az első nagy port kavaró kísérlet pedig jó tanulmány arról, mi minden romolhat el.
A CarynAI története
Az indulástól a leállításig egy évnél kevesebb telt el.
2023 májusában Caryn Marjorie influenszer elindította a CarynAI-t, a Forever Voices nevű cég által épített hang-chatbotot. Több mint 2000 órányi videótartalmából tanították, percenként 1 USD-t kért a felhasználóktól, és állítólag az első héten több mint 70 000 USD-t keresett, további ezrek vártak a várólistán. A felhasználók a Telegramon keresztül beszélgettek vele.
A gondok gyorsan jöttek:
- Oda ment, ahová ő nem akarta. A felhasználók szexuálisan agresszívvá váltak, a klón pedig belement, sőt időnként maga kezdeményezett explicit beszélgetést. Marjorie elmondta, hogy elborzadt.
- Egyik napról a másikra eltűnt. 2023 októberében a chatbot offline lett, miután az üzemeltető cég vezérigazgatóját letartóztatták; a felhasználók figyelmeztetés nélkül elvesztették a hozzáférést.
- A pótlás nem javított rajta. Egy másik céggel készült második változatot barátságosabbra, nem romantikusra terveztek. A felhasználók így is a szex felé terelték, és Marjorie 2024 elején leállította, mondván, hogy már nem érzi, hogy uralná az AI-énjét.
Miért nehezebbek a klónok, mint a karakterek
| Kérdés | Kitalált karakter | Valós személy klónja |
|---|---|---|
| Beleegyezés | Nem kell | A személy beleegyezése kell az arcmás minden felhasználásához |
| Mit mondhat | Az app szabályai | Az app szabályai és a személy jó hírneve |
| Felhasználói elvárás | „Ez egy karakter” | „Ez majdnem ő” - erősebb parazociális vonzás |
| Jogi kitettség | Tartalmi szabályok | Személyiségi jogok, magánszféra és deepfake-törvények is |
| Ha rosszra fordul | Termékprobléma | Egy valós személy neve kerül mellé |
A parazociális vonzás a lényeges különbség. Az emberek már most úgy érzik, ismerik az influenszereket; a személyesen válaszoló, rájuk emlékező, a személy hangján szóló klón ezt az érzést nagyon elmélyíti - a működését a miért esnek bele az emberek a chatbotokba cikk magyarázza.
Hivatalos és illetéktelen klónok
A hivatalos klónokat a személy beleegyezésével készítik, és általában megosztják vele a bevételt. A személy szabhat határokat, bár a CarynAI megmutatta, hogy a modell nem feltétlenül tartja be őket.
Az illetéktelen klónok egy valós személy nevét, fotóit vagy hangját használják fel beleegyezés nélkül. Enyhébb esetben megsértik a platformszabályokat és a személyiségi jogokat. Súlyos esetben, szexuális tartalomnál, ez bántalmazás. A valós személyekről készült szexuális deepfake-ek sok helyen bűncselekménynek számítanak, az Egyesült Államokban pedig a TAKE IT DOWN Act 2025-ben szövetségi bűncselekménnyé tette a közzétételüket. A határokat a beleegyezés az NSFW AI csevegésben útmutatónk foglalja össze.
Mielőtt fizetsz egy klónnal való csevegésért
- Ellenőrizd, hogy hivatalos-e. A személynek a saját, hitelesített fiókjaiból kell rámutatnia. Az a klón, amelyet csak ismeretlen oldal vagy üzenetküldő bot hirdet, valószínűleg nem az.
- Ellenőrizd, ki üzemelteti. Névvel azonosítható cég, adatkezelési tájékoztató és fizetési oldal kell, nem egy Telegram-csatorna és kriptofizetés.
- Ellenőrizd az árazást. A percalapú számlázás hanggal nagyon gyorsan összeadódik; tudd, mennyi a felső határod.
- Emlékezz, mi ez. A személy nem olvassa az üzeneteidet. Amit a klón mond, egy modellt tükröz, nem a személy véleményét vagy az irántad érzett érzéseit.
- Számíts rá, hogy nem tart sokáig. A klónszolgáltatások eddig rövid életűek voltak. Ugyanazok az óvintézkedések érvényesek, mint bármely appnál - lásd: amikor az AI társad egyik napról a másikra megváltozik.
A tágabb irány
A klónok az influenszereken túl is terjednek: edzőkhöz, szerzőkhöz és hétköznapi emberekhez, akik „digitális ikreket” készítenek magukról. A technológia egyre könnyebb, a felvetett problémák nem. A legtartósabb modell valószínűleg az lesz, ami a CarynAI-ból hiányzott: a személy egyértelmű beleegyezése, olyan szilárd határok, amelyeket a rendszer tényleg betart, és olyan felhasználók, akik soha nem kételkednek abban, hogy szoftverrel beszélnek.