AA batek zenbat eta gehiago “arrazoitu”, orduan eta okerrago

  • Applen lan egiten duen ikertzaile talde batek adimen artifizialaren (AA) esparrurako egindako ikerketa baten emaitza argitaratu dute. Izenburu esanguratsua du: The Illusion of Thinking. Euskaraz, bere izenburu luzean, honela: Pentsatzearen ilusioa: arrazoitzeko ereduen indarguneak eta mugak arazoen konplexutasunaren ikuspegitik ulertu.

Artikulu hau CC BY-SA 3.0 lizentziari esker ekarri dugu.

2025eko ekainaren 19an - 18:27
Azken eguneraketa: 2025-06-20 10:41
Inoiz baino beharrezkoagoak dira eskuin muturraren gezurrei
aurre egingo dieten hedabide independenteak

Esperimentu bat egin dute ikertzaileek, premisa honetatik abiatuta: AA produktuetan, txat adimentsuen kategorian, "arrazoitze" ereduak agertu dira azken aldian. Batetik, erabiltzaileak aukera du erakustarazteko txatean nola egiten duen "arrazoitzea" delako AA sistemak, zuk planteaturiko galderari paragrafo soil batekin baino gehiagorekin erantzunez. Era berean, suposatzen da "arrazoitze" horrek laguntzen duela AA txataren emaitza hobetzen, lehen kolpean eman ditzakeen erantzun okerrak fintzen.

Argazki oina

Deepseekekin, geuk ere egin genituen aproba batzuk hemen Sustatun, ingelesez.

Ikertzaileen esperimentuan zenbait asmakizun kontrolatu (jolasak, azken batean) testeatu dituzte, arrazoitze-eredu batzuk probatzeko (Claude 3.7 eta DeepSeek-R1 adibidez), guztietan gauza bera probatzeko, eta asmakizunaren konplexutasun maila handituz.

Eta zera aurkitu dute. Eredu arrazoitsuek hobetzen dute pixkat beste txat adimentsu batzuen emaitza, baina hasieran bakarrik. Jokoa konplexuago bihurtu ahala, "arrazoitzeak" ez du batere laguntzen. Kolapso batera iristen dira eta zero emaitza zuen ematen dituzte sisyema guztiek. Ez dute inondik urrats logikoak kateatzea, muga zorrotzak azalduz arrazoiketa sinbolikoan eta urratsez urratsezko egiaztatzean (hori baita arrazoitze artifizial honen gako bat: urrats bat aztertzen du makinak, eta hortik logikaz hurrengora doa, eta ustez horrela fidagarritasuna lortzen da.

Grafikoetan ikusten da nola joko guztietan, probatutako bi ereduetan zerora jaisten da zuzentasuna konplexutasuna gehitu ahala:

Sistema konplexuagoetan ere, baliabide eta token askoko konputazioa erabilita ere, ez dago eskala hobetik. Ez da eskala kontua hortaz, kanpo-mugek eragindakoa, sistemaren barne-ahultasunak eragindakoa baizik. Ikuspegi pesimista bat AA garapenerako: sistema konplexuago batean gehiago inbertituz alferrik izan daitekeela dio ikerketa.

Ikertzaileen arabera, probatutako ereduek "gehiegizko pentsamendua" erakusten dute: erantzun zuzen samarrak goiz sortzen dituzte, baina gero bide okerrak arakatuz hondatzen dituzte. Eta konplexutasuna handitzen den heinean, modeloek ez dute erantzun zuzenik aurkitzen inondik ere.

Zer esan nahi du horrek? Arrazoiketaren itxura egiten dutela, ez dago ez arrazoitzerik ezta adimenik. 

Azterketa kontsultatzeko, hemen.


Kanal honetatik interesatuko zaizu: Adimen artifiziala
Komunikazioa errazteko eta mintzamenaren errehabilitazioa lantzeko IA-Speak tresna garatzen ari dira Nafarroan

Adimen artifizialarekin garatutako tresna bat da IA-Speak. Bi erabilera nagusi izanen ditu: mintzamena itzultzen duen gailu bat eta erabiltzaileen mintzamena aztertzen duen plataforma bat.


2025-08-18 | Dabid Martinez
Metaren eta adimen artifizialaren kolonialismo digitala

Drop Site News hedabideak (botere-abusuak mundu mailan agerian jartzeagatik ezaguna) argitaratutako ikerketak interneten bilakaeran kezka sortu beharko lukeen joera baten adierazle den albistea argitaratu du. Facebook, Instagram eta WhatsApp-en jabe den Meta multinazionalak [+]


2025-08-18 | Sustatu
ZelaiHandi, euskarazko testuen korpus handi eta (ia) libre bat

Orain NLP hizkuntza teknologietako euskal enpresak euskarazko testuen korpus handi bat jarri du sarean, Hizkuntza Eredu Handien (LLM) eta Adimen Artifizialeko ekimenen biltegi nagusia den Hugginf Face baliabidean. ZelaiHandi du izena.


ChatGPT psikologo bezala erabiltzearen arriskuez mintzatu da Mireia Centeno Gutierrez psikologo eta psikopedagogoa

Ohartarazi du ChatGPT lanketa emozional “sakonak” egiteko erabiltzea “arriskutsua” izan daitekeela ez duelako erabiltzailearen testuingurua ezagutzen eta “gehiago biktimizatu” dezakeelako.


2025-07-23 | Civio
Hiru melanomatik batean erratu eta azal iluneko pazienteak alboratzen dituen algoritmoa

Osakidetza lanean ari da Asisa aseguru-etxe pribatuaren filial baten Quantus Skin sistema osasun-zentroetan ezartzeko, 1,6 milioi euroko inbertsioa eginda. Adituek kritikatu egin dute adimen artifizialeko sistema hori, emaitza "eskasak" eta "arriskutsuak"... [+]


2025-07-17 | Sustatu
WeTransfer: erabilpen baldintza berri ez oso fidatzekoak

Hautsak harrotu ditu azken orduetan Interneten WeTransfer zerbitzu oso praktiko eta erabiliak iragarri dituen erabilpen baldintza berriek, abuztuan jarriko direnak indarrean. WeTransfer da oso fitxategi (edo fitxategi multzo) handiak bidaltzeko modu bat. Ez dira kabitzen e-posta... [+]


Teknologia
Whatsappa utzi

Ez naiz buruan ideia hau darabilen bakarra, asko gara munduan Whatsapp eta Telegram mezularitza aplikazioak hartzen ari diren botereaz kontziente bide hori jorratu nahi dugunak.

Familia, lagunak, komunitateak, lana, komunikabideak... Mezularitza aplikazioekin dena dugu... [+]


2025-07-14 | Sustatu
Ez fidatu Osakidetzan 'Quantus Skin' azterketa egiten badizute

Civio fundazioak salatu duenez, Osakidetzak darabilen AA sistema batek (Quantus Skin) kontratuan agindutakoa baino askoz efikazia gutxiago dauka. 1.6 milioi euroko inbertsioa da, larruazalaren melanoma minbiziak detektatzea du helburu, eta bere emaitzak eskatu zuen %85eko... [+]


Julia Mengolini kazetari argentinarrak Milei salatu du, bere aurkako “gorroto kanpaina” bat aireratzeagatik

Adimen Artifizialaz egindako bideoak sareratu dituzte, Mengolini difamatzen dutenak. “Gorrotoa bultzatzea, indarkeria kolektiboa eta bortxazko mehatxuak” izan direla salatu du kazetariak, eta zigor bideari ekingo diola.


Giza adimena

Stanfordeko Unibertsitateak dohainik eskaintzen duen Storm deituriko erreminta ezagutu berri dut. Adimen artifiziala erabilita, edozein gairen inguruan artikulu akademikoak sortzeko diseinatutako ikerketa tresna da. Fidagarriak eta baimenduak diren hamaika iturri erabiltzeko gai... [+]


2025-06-05 | Sustatu
42: txat adimentsu harrigarriena, Nafarroan sortua nonbait

Laboral Kutxa Katedrak eta Nafarroako Unibertsitate Publikoak (NUP) antolatu dute Arte eta Zientziaren I. lehiaketa (webgunea euskaraz ere badago, baina oso trakets). Artea, zientzia eta pentsamendu kritikoa uztartzen dituzten proiektuak nahi zituzten, eta zenbait aurkeztu... [+]


Teknologia
KoipetsuAA

Aspaldi egin nuen lantegi batean, kapitalismoaren izaera alderatu zuten itsasoan koipe jario batekin, zabaltzen doan orbana, bidean hondakina eta miseria sortzen duena eta garbitzeko zaila dena.

Egun, AAren koipea nonahi dugu,beharbada ezagunenak honakoak direlarik:... [+]


Teknologia
Sabotaje algoritmikoa

Informazio sareetan murgilduta, aktibismo digitalaren inguruan zenbait informaziora heldu naiz. Aktibista digitaletan pentsatzen dudanean, antolaketa moduetan ere pentsatzen dut, denok ez diegu-eta arazoei berdin heltzen. Batzuek aktibismo digitalari komunikazioatik heltzen... [+]


Objektu anti-kulturalak

Momentu honetan, eta buruileraino, Adimen Artifizialari buruzko erakusketa erraldoi bat ikusgai da Parisko Galerie nationale du Jeu de Paume museoan, izenburu honekin: Mundua, Adimen Artifizialaren arabera. Erakusketa horretan, hainbat arte obra garaikide agertzen dira,... [+]


Teknologia
Adimenaren biologiaz

Herriko liburutegian, teknologiaren inguruko espazio ireki batean hartzen dut parte. Aurrekoan, haurrentzako robotika proiektu bat sortzeko Arduino plaka erabiltzen ikasi nahi zuten bi emakume gerturatu ziren, bata programatzailea, bestea ni bezalako kuxkuxeroa. Hirurak jarri... [+]


Eguneraketa berriak daude