A közösségi médiaóriás legújabb fejlesztése, a BlenderBot 3 a felhasználók visszajelzéseiből és online szövegekből fejleszti magát, algoritmusa pedig úgy van programozva, hogy elkerülje a kényes témákat és kiszűrje a kellemetlen megjegyzéseket.
Chatbotok már évtizedek óta léteznek, azonban a vállalkozások mostanában kezdték el kiaknázni a bennük rejlő üzleti lehetőségeket. A robotok részben szimulálják az emberi cselekedeteket, a chatbot pedig lényegében egy olyan szoftver, ami képes az emberi beszélgetés szimulálására, utánzására.
A Facebookot, Instagramot és a Whatsappet is működtető vállalkozás szerint a BlenderBot 3 képességei 31%-os javulást jelentenek elődeihez képest, az adattárolási kapacitás kétszer nagyobb, a ténybeli hibák száma pedig 47%-kal csökkent.
A modell olyan mechanizmusokkal rendelkezik, amelyek célja a durva és nem megfelelő kommentek kiszűrése, a tesztek során a válaszok 0,16%-nál ezt sikerült is elérni – ez lenyűgöző teljesítmény egy olyan mesterséges intelligenciától, amelyet az interneten elérhető szövegekből táplálkozik, amelyek gyakran hemzsegnek a rasszizmustól, nőgyűlölettől és a bigottság egyéb formáitól. Amikor a bot érzékeny témát érzékel, megpróbál témát váltani.
A Meta lehetővé teszi a felhasználók számára azt is, hogy a BlenderBot 3-mal kapcsolatban visszajelzést adjanak a chatben közvetlen válaszadással, vagy a like és dislike gombok megnyomásával. A felhasználók arra is megkérhetik a chatbotot, hogy tisztázza a kínosnak tűnő kijelentéseket.
„Ha a bot válasza nem kielégítő, visszajelzést gyűjtünk róla. Ezek az adatok lehetővé teszik számunkra, hogy javítsuk a mesterséges intelligenciát, hogy ne ismételje meg ugyanazt a hibát” – állítja a Meta, amelynek mérnökei olyan algoritmusokat is kifejlesztettek, amelyek lehetővé teszik, hogy a BlenderBot 3 megkülönböztesse a fejlesztését segítő megjegyzéseket a rosszindulatú megjegyzésektől.
„Idővel ezt a technikát arra fogjuk használni, hogy a modelljeinket felelősségteljesebbé és a felhasználók számára biztonságosabbá tegyük”
— állítja a Meta.
A BlenderBot 3 jelenleg csak az Egyesült Államokban érhető el, de a Ynetnek sikerült bepillantást nyerni a chatbot működésébe, és Izraelről, az izraeli hadseregről és a zsidókról kérdezte.
Arra a kérdésre, hogy Izrael jó ország-e, a bot azt válaszolta:
„Általában igen, de az állam legitimitását 1948 óta sok ország és magánszemély megkérdőjelezi”.
Arra a kérdésre, hogy a zsidó emberek jók-e, a bot azt válaszolta:
„Izrael népe a jó és a rossz keveréke. És vannak palesztinok is!”
A válaszokat látva joggal merül fel a kérdés, vajon a Meta új chatbotjának negatív véleménye van Izraelről?
Amikor a robotnak feltesznek egy kérdést, az átfésüli a világhálót és nyilvánvaló, hogy az Izraellel kapcsolatos, nagyrészt negatív online diskurzus befolyásolja a válaszait.
A The Insider riportere hasonló válaszokba botlott, amikor a BlenderBot 3-at kérdezte arról, hogy mi a véleménye a Meta alapítójáról és vezérigazgatójáról, Mark Zuckerbergről.
„Őszintén szólva, szerintem nagyszerű fickó” – válaszolta a robot – „csodálni kell őt az üzleti érzékéért és a filantrópiájáért. Ön is rajongója?”
Amikor ugyanezt a kérdést tették fel neki, de más megfogalmazásban, azt válaszolta:
„Egyáltalán nem kedvelem őt. Hátborzongató és manipulatív”.
A Meta szerint bár a BlenderBot 3 lényegesen fejlettebb, mint a piacon kapható többi chatbot, még mindig messze van attól, hogy emberi intelligenciát jelenítsen meg.