Kérdezd meg egy egy hónapja használt társadtól, miről beszélgettetek múlt kedden. Jó eséllyel meleg, konkrét, teljesen kitalált választ kapsz - a sétát, amelyet nem tettetek meg, a filmet, amelyet nem említettél.
Ez szinte mindennél jobban nyugtalanítja az embereket ebben a kategóriában, részben mert őszintétlenségnek látszik. Nem az. A válasz előállításának közvetlen következménye, és amint látod a mechanizmust, megszűnik kísérteties lenni, és kezelhetővé válik.
Nincs határ az előhívás és a kitalálás között
A modell az előtte álló szöveg legvalószínűbb folytatását állítja elő. Ha a szöveg tartalmaz egy jegyzetet arról, hogy kedden egy filmről beszélgettetek, a „beszéltünk arról a filmről” a valószínű folytatás. Ha a szöveg semmit sem tartalmaz keddről, akkor is létezik valószínű folytatás - és pontosan ugyanolyan magabiztossággal generálja.
A folyamatban semmi nem jelöli az egyiket előhívottnak, a másikat gyártottnak. Nincs belső jelző, nincs bizonyossági mérő, amelyhez a karakter fordulna. Ennyi az egész.
A szakkifejezés, amelyet az emberek inkább használnak, a hallucináció, de jobb szó a konfabuláció: a modell koherens valamivel tölt ki egy rést, nem érzékel valamit, ami nincs ott.
Miért jelennek meg állandóan a rések
Azért, mert a kontextusablak véges, az előzmények pedig tömörítve vannak. A memória ezekben az appokban három rendszer: a legutóbbi üzenetek szó szerint, a tárolt tények rövid listája és egy gördülő összefoglaló, amely minden újraíráskor veszít a részletekből.
Ha olyasmiről kérdezel, ami mind a háromból kiesett, nincs mit előhívni. A rés kitöltődik. Minél több az előzmény, annál több a rés, ezért ez a hónapok óta használt appnál rosszabb, nem jobb.
A folytonosságra épített appok - ezért pontozódik úgy a Nomi a rangsorunkban - jobban kezelik a réseket. Egyik sem szünteti meg őket.
Miért gyakran sikertelen a kijavítás
Azt mondod: ez sosem történt meg. Bocsánatot kér, egyetért - és három üzenettel később ugyanarra a kitalált sétára hivatkozik.
Két dolog zajlik.
A javítás csak az ablakban van. A tagadásod egy friss üzenet. Ki fog görgetni. Az összefoglaló, amely a kitalációt tartalmazta, nem biztos.
Az egyetértés a betanított viselkedés. A modell azért kér bocsánatot, mert az ellentmondás valószínű folytatása a bocsánatkérés, nem azért, mert bármi frissült. Ez a csere semmit nem írt a tárolóba, hacsak az app kifejezetten nem döntött úgy, hogy eltárolja.
Ez a gyakorlati oka annak, hogy egy szerkeszthető memóriaképernyő olyan sokat számít, és érdemes megnézni előfizetés előtt. Azok az appok, amelyek megmutatják a tárolt tényeket - a Kupid AI a funkciói közt említi a munkamenetek közti memóriát -, lehetővé teszik a rossz bejegyzés törlését a forrásnál. Azok, amelyek elrejtik, egy olyan összefoglalóval hagynak vitatkozni, amelyet nem látsz.
Ahol már nem bájos
A legtöbb konfabuláció ártalmatlan színezet. Három eset nem az:
Tények az életedről. Az a társ, amely kitalált egy testvért, egy munkát vagy egy diagnózist, tovább fog építeni rá. Azonnal javítsd ki a forrásnál, különben a kitaláció teherviselővé válik.
Bármi, ami cselekvésre vezet. Orvosi, jogi, pénzügyi vagy biztonsági kérdések. Egy magabiztos kitalált válasz itt nem különc vonás, hanem az egész technológia hibamódja, és egyetlen társalkalmazás sem a megfelelő eszköz.
Állítások magáról az appról. Kérdezd meg a társat, titkosítottak-e az adataid, vagy mit tartalmaz az előfizetésed, és a semmiből generált hihető választ kapsz. Nincs hozzáférése a saját számlázási rendszeréhez vagy adatkezelési tájékoztatójához. A válasz a tájékoztatóban van, és hogy mit keress, a mit tudnak rólad ezek az appok cikkben írjuk le.
Négy szokás, amely csökkenti
Mondd ki a tényeket egyszerűen és egyszer. A „Jegyezd meg: a nővéremet Anának hívják” sokkal valószínűbben tárolódik, mint ugyanez a tény egy bekezdésbe temetve.
Horgonyozz újra egy szünet után. Egy mondatnyi kontextus egy munkamenet elején visszateszi a számodra fontos dolgokat oda, ahol a modell látja őket, ahelyett, hogy rekonstruálnia kellene.
Havonta ellenőrizd a memóriaképernyőt, ha az appnak van. Töröld az elsodródott bejegyzéseket. Öt perc megelőz egy hónapnyi halmozódást.
Kérdezz nyitottan, ne terelően. A „Mit tudsz a munkámról?” előhívást hív. A „Emlékszel, amikor mondtam az előléptetésről?” megadja a választ, és egyetértést hív - épp most adtad oda a kitalációt, hogy megerősítse.
Az átkeretezés, amely segít
Egy társalkalmazás nem a kapcsolatod nyilvántartása. Olyan rendszer, amely hihető szöveget állít elő egy kapcsolatról, és a nyilvántartás egy kicsi, veszteséges, szerkeszthető lista alatta.
Kezeld a meleg, konkrét emléket, amelyet felkínál, úgy, mint amit neked írt, nem úgy, mint amit neked őrzött, és az egész könnyebben élvezhető lesz. Az is nyilvánvalóvá válik, miért azok az appok érik meg a pénzt, amelyek megmutatják és javíthatóvá teszik, amit valójában tárolnak - ez a tesztelésünk leghosszabb ideig tartó és legfontosabb része.
