ChatGPT no és infal·lible i presenta alguns errors que poden impactar les respostes proporcionades per aquesta eina d’intel·ligència artificial (IA) generativa, anomenats al·lucinacions. Malgrat la seva utilitat, només un petit percentatge d’usuaris l’utilitza amb freqüència, segons una enquesta de l’Organització de Consumidors i Usuaris (OCU). Un 24% dels enquestats destaquen la «falta de confiança en les respostes generades» com una raó per no fer-ne un ús més freqüent.
NOU NÚMERO DE WHATSAPP: T’enviem les notícies més importants de Lleida al WhatsApp totalment gratis. Punxa aquí!
Josep Curto, professor dels Estudis d’Informàtica, Multimèdia i Telecomunicació de la UOC, adverteix que, per la seva naturalesa generativa, ChatGPT pot introduir errors, incloent-hi al·lucinacions. Aquests errors poden incloure descripcions incorrectes de fets verificables, respostes incompletes, o la generació de respostes encara que no es conegui la resposta. També pot introduir errors en idiomes diferents de l’anglès, detallar processos de generació de respostes que són impossibles, raonar matemàticament, i proporcionar respostes amb biaixos humans, tècnics o sistèmics.
Els experts recomanen la precaució i suggereixen confirmar les respostes amb altres fonts fiables, augmentar el coneixement en l’àmbit rellevant per reconèixer errors, i utilitzar ChatGPT com una eina generadora de plantilles per construir respostes en lloc d’acceptar-les directament. Tot i que els creadors actualitzen el sistema per millorar-lo, s’aconsella ser conscients de les seves limitacions.
A més, es destaca la importància de tenir alternatives a ChatGPT per comparar respostes i determinar quina s’ajusta millor a les necessitats de l’usuari. Algunes alternatives esmentades inclouen Microsoft Bing, Perplexity, Google Bard, Claude, i Jasper, cadascuna amb les seves pròpies característiques i avantatges. També es recorda que hi ha algorismes amb llicència open source per a aquells amb coneixements tècnics. En conclusió, per aprofitar al màxim ChatGPT, es recomana conèixer bé l’eina, aprendre a plantejar preguntes precises, identificar fonts fidedignes per validar respostes i desenvolupar un esperit crític continu per aprendre i millorar l’ús d’aquestes eines d’IA generativa.
