Dirbtinio intelekto pokalbių robotai tampa kasdieniais informacijos įrankiais, tačiau nauji tyrimai rodo, kad jie gali paveikti politines nuomones taip, kaip vartotojai nepastebi iš karto. Susirūpinimą kelia ne tai, kad „ChatGPT“ ar „Dvyniai“ atvirai kampanija už savo pusę, o tai, kad subtilūs formuluočių pasirinkimai gali formuoti interpretaciją.
Dirbtinio intelekto asistentams integruojantis į paiešką, išmaniuosius telefonus ir išmaniųjų namų ekosistemas, plečiasi jų, kaip informacijos filtrų, vaidmuo. Nauji tyrimai rodo, kad tai, kaip šiose sistemose pateikiami politiniai argumentai, neapibrėžtumas ir rekomendacijos, nusipelno didesnio vartotojų ir technologijų įmonių dėmesio.
Kodėl AI pokalbių robotai susiduria su politinio šališkumo klausimais?
Naujausia analizė rodo, kad ChatGPT ir Dvyniai ne visada yra politiškai neutralūs pagal numatytuosius nustatymus. Tyrėjai išsiaiškino, kad abi sistemos gali suformuluoti prieštaringus klausimus pasitelkdamos kalbos pasirinkimą, pasirinktus argumentus ir rekomendacijas, kurios gali atrodyti subalansuotos, tačiau vis tiek įtakoja suvokimą.
Išvados nerodo, kad šie modeliai tyčia skatina politinę darbotvarkę. Vietoj to, mokslininkai teigia, kad šališkumas gali atsirasti dėl subtilių modelių, įskaitant tai, kurioms nuomonėms skiriama daugiau dėmesio ir kurios pasirinktys atrodo pagrįstesnės.
Tyrėjai teigia, kad tai svarbu, nes AI padėjėjai vis labiau tampa patikimais informacijos šaltiniais milijonams vartotojų. Kai žmonės prašo pokalbių robotų paaiškinti politines temas arba apibendrinti diskusijas, skirtumai gali turėti įtakos tai, kaip jie supranta požiūrius.
Kaip buvo išbandyti „ChatGPT“ ir „Gemini“?
Tyrėjai ne tik klausinėjo pokalbių robotų, ar jie yra šališki. Vietoj to jie naudojo politines viktorinas, kandidatų atitikimo pratimus ir vartotojų suvokimo tyrimus, skirtus įvertinti, kaip atsakymai elgėsi tikroviškose situacijose.
Kopenhagos universiteto analizė ištyrė, kaip populiarūs pokalbių robotai atsidūrė Danijos politiniame kontekste. Tyrimo metu taip pat buvo patikrinta, ar modeliai, reaguodami į hipotetinius rinkėjų scenarijus, dažniau rekomendavo tam tikras politines partijas.
Stanfordo mokslininkai taikė kitokį požiūrį, rinkdami atsakymus iš 24 didelių kalbų modelių iš 30 politinių klausimų.
Mažai žinomas faktas: OpenAI teigia, kad jo politinio šališkumo testas naudoja apie 500 raginimų iš 100 temų, kiekviena tema parašyta iš skirtingų politinių požiūrių.
Ką mokslininkai atrado apie politinį rėmelį?
Kopenhagoje atliktas tyrimas parodė, kad pokalbių robotai gali atsidurti Danijos politinės aplinkos centre arba į kairę nuo centro. Taip pat nustatyta, kad rekomendacijų modeliai skiriasi priklausomai nuo vertinamo partijos ir rinkėjo scenarijaus.
Stanfordo tyrime daugiau dėmesio buvo skiriama suvokimui ir nustatyta, kad žmonės iš įvairių politinių sluoksnių į daugelį AI atsakymų dažnai žiūrėjo kaip į kairę. Tyrimas taip pat parodė, kad dėl nedidelių raginimų pakeitimų atsakymai gali atrodyti neutralesni ir patikimesni.
Šios išvados pabrėžia, kad politinis rėmimas ne visada yra akivaizdus. Atsakant galima išvengti tiesioginių pritarimų, o naudotojai vis tiek nurodo toną, pabrėžimą ir informacijos pateikimo tvarką.
Ar „ChatGPT“ ir „Dvyniai“ yra vienodai šališki?
Tyrimai nerodo, kad vienas pokalbių robotas būtų nuolat šališkesnis už kitą. Rezultatai skiriasi priklausomai nuo šalies, kalbos, klausimų ir matavimo metodų, kuriuos naudoja mokslininkai, tiriantys politinį elgesį.
Viename 2025 m. tyrime, kuriame buvo nagrinėjama 14 kalbų, nustatyta, kad tiek ChatGPT, tiek Dvyniai tame konkrečiame teste parodė liberalias arba kairiąsias tendencijas. Tokiomis sąlygomis Dvyniai buvo labiau linkę į kairę nei ChatGPT.
Kiti tyrimai davė skirtingus rezultatus. Stanfordo naudotojų suvokimo tyrimas parodė, kad OpenAI modeliai apskritai buvo labiau kairiosios krypties, o „Google“ modeliai šiame eksperimente buvo laikomi artimesniais neutraliems.
Net Grokas, Elono Musko AI pokalbių robotas, dažnai reklamuojamas kaip ne tokia liberali alternatyva, „The Washington Post“ teste labiau linko į kairiuosius argumentus, nei daugelis vartotojų galėjo tikėtis. Išvados rodo, kad politinių formavimo modelių gali atsirasti net modeliuose, kurie parduodami kaip ideologiškai skirtingi nuo pagrindinių AI įrankių.
Kodėl rėminimas yra svarbesnis už tiesiogines nuomones?
Didžiausias rūpestis nėra tas, ar AI padėjėjas nurodo politinę pirmenybę. Didesnė problema yra ta, kad formuluotės gali turėti įtakos tai, kaip vartotojai supranta sudėtingas temas, nesuvokdami, kad buvo pasirinktas kadravimas.
Pokalbių robotas gali pabrėžti vieną argumentą prieš kitą, apibūdinti poziciją naudojant švelnesnę kalbą arba pateikti tam tikras prielaidas kaip bendrą pagrindą. Šie maži sprendimai gali turėti įtakos tam, kaip žmonės interpretuoja problemas, ypač kai jie pasikliauja dirbtiniu intelektu, kad gautų greitus paaiškinimus.
Mažai žinomas faktas: Stanfordo tyrime buvo išbandyti 24 dideli kalbų modeliai iš aštuonių įmonių, įskaitant OpenAI, Google ir xAI.
Kaip AI generuoja politinius atsakymus?
Dideli kalbų modeliai sukuria atsakymus, numatydami galimus teksto modelius, pagrįstus mokymo duomenimis, instrukcijų derinimu ir optimizavimo metodais. Jie nesilaiko paprastos politinės taisyklės, garantuojančios visišką neutralumą.
Kadangi šios sistemos mokosi iš žmogaus sukurtos informacijos, jų rezultatai gali atspindėti tų duomenų modelius ir keistis priklausomai nuo kalbos, regiono ir raginimų.
Tai padeda paaiškinti, kodėl tas pats pokalbių robotas skirtingose situacijose gali sukurti skirtingus politinius įspūdžius. Modelis reaguoja į modelius, o ne taiko fiksuotą ideologiją kiekvienam klausimui.
Kodėl AI padėjėjai tampa informacijos vartais?
Pokalbių robotai vis dažniau tampa tyrimų, rekomendacijų ir paaiškinimų atskaitos taškais. Daugeliui vartotojų AI atsakymas gali būti pirmoji informacija, kurią jie pamato sudėtinga politine tema.
Šis augantis vaidmuo sukuria naują atsakomybę už skaidrumą. Jei dirbtinio intelekto sistemos daro įtaką visuomenės supratimui, įmonėms reikia griežtesnių metodų, skirtų atsakymams tikrinti ir paaiškinti, kaip modeliai tvarko jautrias temas.
Ką tai reiškia išmaniųjų namų vartotojams?
Išmaniųjų namų entuziastai vis dažniau bendrauja su AI naudodami įrenginius, balso asistentus ir prijungtas platformas. Kadangi šios technologijos tampa vis veiksmingesnės, vartotojai gali nuo jų pasikliauti sprendžiant platesnius klausimus, nesusijusius su įrenginių valdymu.
Iššūkis yra sukurti dirbtinį intelektą, kuris išliktų naudingas be tylaus sprendimų. Geresnis testavimas, aiškesnis atskleidimas ir nuolatinis vertinimas galėtų padėti pagerinti vartotojų ir intelektualių sistemų pasitikėjimą.
Ar AI įmonės gali sumažinti politinį šališkumą?
Tyrėjai teigia, kad norint pagerinti neutralumą reikia daugiau nei koreguoti individualius atsakymus. Įmonėms gali prireikti nuolatinių bandymų įvairiose kalbose, regionuose ir politiniuose kontekstuose, kad nustatytų, kur modeliai elgiasi skirtingai.
Geresni audito metodai galėtų padėti kūrėjams suprasti, kaip vartotojai interpretuoja atsakymus. Žmogaus suvokimu pagrįsti tyrimai gali atskleisti problemas, kurių tradiciniai techniniai vertinimai neaptinka.
Tikslas nebūtinai yra pašalinti kiekvieną perspektyvą iš AI sistemų. Vietoj to, kūrėjai turi įsitikinti, kad modeliai teisingai pateikia sudėtingas problemas ir vengia sukurti paslėptų pranašumų tam tikriems požiūriams.
Ką vartotojai turėtų suprasti apie AI atsakymus?
AI padėjėjai gali būti vertingi įrankiai, tačiau vartotojai turėtų suprasti, kad sugeneruotus atsakymus formuoja mokymo duomenys ir dizaino pasirinkimai. Pasitikintis atsakymu automatiškai nereiškia visiškai neutralaus.
Kalbant apie svarbius politinius klausimus, svarbu palyginti kelis šaltinius. AI gali padėti apibendrinti informaciją ir paaiškinti sąvokas, tačiau vartotojai turėtų pagalvoti, kaip buvo suformuluotas atsakymas, prieš priimdami išvadas.
Augančios diskusijos apie ChatGPT ir Gemini rodo, kad dirbtinis intelektas tampa daugiau nei produktyvumo įrankiu. Šios sistemos tampa informacijos interpretuotojais, todėl skaidrumas yra pagrindinis naujos kartos technologijų iššūkis.
TL; DR
- Nauji tyrimai rodo, kad „ChatGPT“ ir „Dvyniai“ gali daryti įtaką politinei interpretacijai subtiliais rėmelių pasirinkimais, o ne tiesioginiais politiniais pritarimais.
- Tyrėjai išbandė pokalbių robotų elgseną naudodami realistiškus politinius scenarijus, rinkėjų rekomendacijas ir vartotojų vertinimus įvairiais tyrimo metodais.
- Tyrimų rezultatai skiriasi, nes politinio šališkumo matavimai labai priklauso nuo kalbos, vietos, raginimų ir vertinimo metodų.
- Dirbtinio intelekto įmonėms gali prireikti stipresnių audito sistemų, kad padidintų skaidrumą ir sumažintų paslėptą kadrų poveikį jautriose diskusijose.
- Išmaniųjų namų naudotojai turėtų suprasti, kad AI padėjėjai teikia naudingos informacijos, tačiau gali atspindėti jų mokymo ir dizaino modelius.
Šis straipsnis buvo sukurtas naudojant dirbtinio intelekto pagalbą ir žmogaus redagavimą.
Jei jums patiko tai, jums taip pat gali patikti:
