Inmensa Burbulla (por Lois Oreiro)

Concordemos en que a intelixencia humana existe malia os desacordos para definila e as sonoras estupideces coas que inzamos a Historia canda os fitos luminosos que tanto nos compracen. Aceptemos tamén un certo grao de intelixencia dos animais non humanos; unha intelixencia animal instintiva, de linguaxe rudimentaria, como algúns estudosos afirman. Mesmo podemos aceptar a existencia da intelixencia vexetal. Formas de vida sen sistema nervioso central que apenas se moven pero cunha capacidade sensorial e de adaptación ao medio que nós non temos; unha sorte de intelixencia xenética repartida polas raíces, o tronco, e as pólas da árbore ou da planta para adecuarse á contorna e sobrevivir mesmo ás amputacións; e enlazada en moitos casos á súa comunidade; comunicados pola química cos seus e mesmo cos animais, cando necesitan atraelos para reproducirse ou librarse de parasitos. Porén, o que nunca existiu, nin existe, é a intelixencia artificial. Os autómatas, dos que falaba Aristóteles, e os algoritmos da antiga Mesopotamia e do moderno Silicon Valley, son outra cousa; útiles e disruptivos, si, pero formas de intelixencia: ningunha. Acreditar hoxe na intelixencia artificial é coma crer que é maxia real facer desaparecer un coello na caixa do ilusionista sobre o escenario, simplemente porque non lle vemos o truco. Ou que que esteamos dispostos a simplificar os conceptos e mais as nosas destrezas ata o extremo de soster que unha gamela sabe nadar. A expresión intelixencia artificial é un oxímoro máis próximo ao pensamento máxico ca ao ser das cousas. O artificio non é intelixencia.

A linguaxe é central na política e nos negocios. No da IA máis aínda, por iso cómpre reparar en que o repetido termo “relato” é un sinónimo de “conto”, que relato significa conto. Porque o suposto equívoco da intelixencia artificial xeral, a conciencia que se constrúe a si mesma, identifícano exclusivamente cos LLM, cos produtores masivos de linguaxe sintética en chats que falan ben, só en aparencia, porque foron feitos para iso precisamente, para aparentar que saben do que falan, por aproximación pero sen saber nada de nada, pero é un conto, un relato, que niso haxa intelixencia ningunha. Hai estatística, si, cálculos desmesurados para responder preguntas cunha sucesión de “tokens” -anacos de palabras-, grazas a capacidades computacionais tan enormes coma o consumo de auga e enerxía que fan. Non saben gramática ningunha. Parecen verosímiles, pero soamente o parecen; o seu único propósito é parecelo porque en realidade son calculadoras de probabillidades lingüísticas. Non teñen nada que dicir de seu. Pero na comunicación humana damos por sentado que hai unha mente detrás de quen nos fala, por básica que sexa, asociamos a intelixencia co don da fala. Alguén intelixente adoita falar ben. Mais, os modelos de linguaxe de gran escala nunca serán nin intelixentes nin humanos porque nós, os humanos, aprendemos a falar de cativos en contextos compartidos con quen nos fala por primeira vez, atendendo os dous á mesma cousa, coa mesma subxectividade, a mesma experiencia, cos sinais da intención comunicativa que conteñen as frases e palabras que nos din. Aprender a falar é aprender a interpretar o mundo a través do idioma, a identificar as formas da fala con cadanseu obxecto e cadanseu contexto, cos significados e, sobre todo, co sentido. Comprendemos as construcións lingüísticas que lemos e escoitamos despois porque proxectamos a intencionalidade coñecida para esas palabras; deducimos o que nos quere dicir esoutra mente que nos fala pola experiencia común. Debería bastar con isto para que os nenos pequenos non interactúen nunca con chatbots sen supervisión. Pola contra, coas imaxes de vídeo somos máis desconfiados. A luz, a cor, as formas e o espazo non son obras humanas. É unha construción humana soamente a representación delas e as reproducións máis ou menos tuneadas entre os dispositivos e as redes. O cinema afíxonos a distinguir os efectos especiais da ciencia ficción pero as falsas palabras non somos quen de detectalas tan axiña no uso artificial do idioma das máquinas de linguaxe sintética, por máis libros que lésemos. E porque tampouco ninguén pretende, de momento, que esas imaxes sexan conscientes, nin que sintan e pensen coma nós. Pero cos Chatbots seica si.

É este un equívoco interesado, unha estratexia de parte.  Por un lado están os boosters, que claman por acelerar a chamada IA todo o posible polo ben da Humanidade  e mais por asumir os sacrificios que sexan precisos para chegar á sacrosanta Intelixencia Xeral que nos redima de traballar, de enfermar e mesmo de pensar e decidir cousas por nós mesmos. Piden estes aceleracionistas non poñerlle atrancos, darlle facilidades e asumir os custos para chegar á meta. Os magnates tecnolóxicos saben que nada disto vai ser exactamente así. Pero as vantaxes de verse convertidos en cerne da esperanza humana son moitas e renunciar a elas non está nos seus plans polo de agora. De feito os líderes da media ducia de sociedades que controlan este negocio en Occidente falan decote do ben da Humanidade como a súa auténtica razón de ser. E para que non nos aburramos de esperar polo paraíso, os sofistas do algoritmo inventaron o “largopracismo”: unha filosofía de poder, que xenerosamente defenden Elon Musk e compañía, en contradición coa hipervelocidade  coa que a  IA vai cambiar o mundo. Avisan que é posible que as milagres non se produzan tan axiña como prognostican os seu epígonos. Pretenden xustificar todos os sometementos necesarios durante o tempo que faga falta, en aras da Arcadia feliz que compensará tantos traballiños presentes e futuros. Hai relixións e ideoloxías totalitarias que levan séculos xustificándose así tamén.

Os esforzos dialécticos, as declaracións de intencións e as urxencias para regulamentar a IA dende a bonhomía e o temor humanista dos donos da IA levan servido para dúas cousas: poñerlles pegas insuperables ás startups que puidesen competir cos xigantes e ameazar a súa hexemonía; e difundir o falso mito de que a Intelixencia Xeral, ou mesmo a Intelixencia Forte están chegando, están cerca. Porque os Gemini, GPT, Grok… etc xa falan coma a xente. O argumentario agora non insiste tanto na neurociencia e os implantes corporais da interface persoa/máquina cara o transhumanismo, xustificado na eficiencia laboral e na saúde dos nosos corpos. Agora o principal atractivo son as “redes neuronais”, a aprendizaxe profunda para que imaxinemos neuronas artificiais, encéfalos, cerebros ciborg que aprenden pola súa conta cando en realidade se refiren a feixes de algoritmos ordenados dun xeito moi, pero moi, remotamente parecido ás neuronas cerebrais humanas. Nin pensan nin van pensar nunca. Inferen patróns comúns, os que poden, no océano de información dos data centers. Non hai transcendencia posible. Pensar o impensado ou pensar o impensable é un don exclusivo da razón de humanos e deuses. Os autómatas non pensan en absoluto, replican aquelo para o que foron programados.

E por que din entón que a Intelixencia Artificial xa está aquí? Pois por cartos, coma sempre. Open AI e SpaceX IA perden moito diñeiro nun negocio que aínda vai tardar anos en darlles beneficios. Anthropic queima menos fondos porque subcontrata os mastodónticos centros de datos e porque xa lle cobra ás empresas por usaren o seu Claude, aínda que sexa a prezos por baixo do custo. Perden moitos miles de millóns de dólares e van ter que gastar máis aínda. Open AI 14.000 este 2026, SpaceX 2.400 millóns só no primeiro trimestre. Teñen que saír a Bolsa en busca de financiamento porque o negocio da IA, tal e como o desenvolveron, aínda vai tardar en chegar a beneficios. Segundo Sequoia Capital terían que xerar ingresos de 600.000 millóns de dólares para chegar a telos. Pero a caldeira da locomotora aínda necesita queimar moita máis madeira.

 Porén, a fe cega neles anima a mercar accións das súas compañías no ambiente xeral de “iso é o futuro” e de “non podemos quedar atrás”. E a habilidade coa que contrapoñen o discurso boost, dos apoloxistas tecnolóxicos, ao lamento aciago dos doomers, apocalípticos da IA, aínda os favorece máis. Comparan os negativos cos luditas, que destruían as tecedoras a vapor no s. XIX, porque especulan cos males dramáticos que pode producir unha conciencia artificial con acceso a datos e altísima computación. Ao facelo, os doomers aínda a promocionan máis, posto que lle atribúen á IA unhas fortalezas tan grandes coma imposibles e ante as que o máis prudente para a xente do común, vai ser apostar por ela, aínda con todos os responsos regulatorios cos que nos tranquilizamos do risco de que a nova ama nos escravice ou nos aniquile.

 Dá que pensar que poña máis medo a IA cá carreira tecnolóxica de armas cada vez máis mortíferas ou cós sistemas de vixilancia masiva, que xa son terriblemente reais.

 SpaceX saíu a Bolsa o pasado 12 de xuño. No folleto informativo avisaba da “volatilidade” que podía producirse para os investidores particulares porque a demanda ía estar, como efectivamente estivo, moito por riba da oferta de títulos. E iso que a capitalización da corporación espacial, de IA e centros de datos era enorme: saía co propósito de captar 75.000 millóns de dólares, para elevar o valor da compañía ata cerca de dous billóns de dólares, 1,77 exactamente. Valoración excesiva, segundo varios fondos americanos. Así e todo subiu igualmente un 25% na estrea no Nasdaq.

 A especialización fomentou a ignorancia nesta sociedade que nos gusta chamar do coñecemento cando a penas pasou de ser a do entretemento e da Economía da Atención. A nosa atención vai diante dos nosos datos, diante de todo; porque somos ao que atendemos: os namorados atenden a quen aman, o artista inspirado obsesiónase coa obra en marcha, o emprendedor pensa días e noites na empresa que quere pór a andar… Somos o que atendemos. Ou polo menos éramos. Agora mantennos decote atentos a algo que empeza a ser difícil saber se é o que nos interesa, se é o que nos gusta, porque pasamos decote dunha cousa á outra sen a curiosidade que nos fai humanos, guiados polo algoritmo eficaz e discreto. O refinamento do secuestro atencional pode manternos en burbullas de opinión das redes chamadas sociais ata o extremo de confundirmos o social con aquilo dixital que nos exhiben, e que nos comprace ou nos indigna tanto que non vemos máis nada fóra de aí.

 O movemento woke fallou o tiro cando quixo desautorizar o sistema do saber cancelando mesmo a pura verdade en favor doutras “verdades” supeditadas a obxectivos políticos. Nese rebumbio relativista sen autoridades recoñecidas, os fabricantes de linguaxe sintética tiran partido da desautorización da sabedoría; sempre o tiran. O discurso sintético dos chatbots é verdade estatística, unha forma máis das verdades que circulan nos mundos de agora, pero unha verdade coa lexitimade de amasar miles de millóns de cálculos sobre bases de datos, roubados ou pagados en parte, no que degluten obras mestras da humanidade de par de opúsculos de toda índole. Velaí a lexitimidade dos emporios: reclamar para os seus monstriños binarios, e cuánticos andando o tempo, a autoridade emanada do xenio humano a través dos séculos, coa que os adestran, pagando dereitos de autor ou roubándoos simplemente. 

 Os nesgos en contra do politicamente aceptado en cada momento e lugar non son o principal problema para estas corporacións tecnolóxicas, malia que pareza a principal crítica que reciben. Adestran o algoritmo con datos que son os que son. A corrección fana nas fases posteriores e só cando as queixas saen de grupos con influencia suficiente na sociedade que sexa. O que calan, porque é especialmente grave, é a explotación laboral masiva que fixo posible a IA e que agochan detrás do eufemismo crowdwork, man de obra a eito, barata e sen dereitos, invisible para o público detrás de etiquetas como “IA ética”. Posto que estes batedores de imaxes e textos da Internet son cegas e irracionais por completo, alguén tiña que filtrar os contidos que utilizan e as respostas que ofrecen. Seres humanos etiquetaron e etiquetan “contidos” que van do aberrante ao insubstancial con grave risco para a súa saúde mental a cambio de salarios infames. A revista Time desvelou no seu día que OpenAI subcontratara traballadores en Quenia que cobraban menos de dous dólares por día por mirar imaxes sanguentas, de odio, pornográficas e de abuso infantil para ChatGPT e o xerador de imaxes DALL-E. Por suposto, non é o único caso nin tampouco o peor.

 Os erros da linguaxe sintética dos GPT e demais non son unha cuestión menor nesta sociedade hiperespecializada, con ignorantes de case todo e expertos nun único segmento do saber, do saber que aínda por riba cambia velozmente; dese saber que aceptamos con sorriso condescendente que se volveu líquido. Os vendedores de automatismos queren convencernos de   que van cambiar a natureza mesma do saber, de que o seu é pura epistemoloxía, pero a realidade é que non pasan de simple heurística, e iso sendo moi xenerosos. O reto, o problema ou a oportunidade de dixitalizar as aulas non estaba en que os alumnos se servisen de IA para facer os deberes, comezou cando os profesores empezaron a usala para poñerllos. Mesmo os mestres van camiño de se converteren en simples editores do que dita a máquina de linguaxe artificial, revisando en busca de erros demasiado obvios como para admitilos. Aos programadores informáticos e aos deseñadores xa lles está pasando. E iso mentres o fabricante non asegure que a máquina xa se corrixe ela soa, como xa pretende algún deles. O xornalismo, ou o que queda del, é un bo exemplo das consecuencias de botarlle de comer ás ferramentas produtoras de texto e imaxes. Ten que haber noticias falsas por forza se a IA imita a redacción dos xornalistas sen noción ningunha do que é a verdade nin da materialidade dos feitos aos que alude. Houbo medios que fixeron un pacto co demo esperando sobrevivir a cambio de diñeiro mentres outros o levaban aos tribunais de xustiza por usar os seus textos sen pagar. Así, se observamos con atención as respostas de Open AI en castelán veremos que responde ao puro estilo PRISA, en inglés co de Reuters e The Guardian. O New York Times pactou con Amazon. Rupert Murdoch cobrou 250 millóns de dólares de OpenAI para que adestrase co Wall Street Journal, o Times e Barrow’s. Le Monde tamén cedeu contidos cobrando e The Guardian igual. Asociated Press en cambio vendeullos ao Gemini de Google.

 Na estratexia de comunicación de Anthropic camiño de Wall Streetvolveron aos comunicados chamando a parar o desenvolvemento da IA por seguridade. Disque o seu Claude Mythos localiza e repara fallas de seguridade en sistemas operativos e nos navegadores da Internet a velocidades tan altas que os humanos non son quen de revisar. Que non poden responder do uso que se faga del se cae en malas mans e que as fallas de seguridade que detecta son alarmantes. O seu xeneroso proxecto Glasswing permitiu que institucións da Unión Europea testen tamén o sistema que so usaban nos Estados Unidos e na Gran Bretaña. Dase a circunstancia de que Anthropic sae a Bolsa este mes de Outubro. Aos poucos días, os mesmos directivos de Anthropic que pedían parar o desenvolvemento das ferramentas IA por seguridade contradicíanse a si mesmos sen empacho ningún: o goberno dos Estados Unidos prohibiu o 12 de xuño a utilización por estranxeiros do Claude Fable 5 de Mythos 5 por motivos de seguridade nacional. Anthropic tivo que acatar a orde  pero difundiu outro comunicado co argumento contrario á parar a IA: “non estamos de acordo con que unha posible vulnerabilidade sexa motivo para retirar o modelo comercial implementado para centos de millóns de persoas. Se ese criterio se aplicase a toda a industria, cremos que paralizaría practicamente todos os novos lanzamentos de modelos de vangarda”.

Non é a única contradición; a súa confesión sobre o risco do sistema de seguridade que se mellora a sí mesmo xa contrastaba enormemente coa indiferenza que durante anos uns e outros mantiveron cos algoritmos de caixa negra; sistemas que se modifican a si mesmos a partir dos resultados que obteñen en cada intervención para mellorar, pero de xeito hermético, para que a competencia non os poida copiar. Nin sequera o seu creador podía saber o que farían a continuación nin por que. Houbera voces pedindo prohibilos na sanidade e outros sectores críticos, pero non foi un debate que chegase ao gran público, como chegan agora estoutras advertencias dos magnates. Obsérvese amáis a reacción de  Open AI ás noticias sobre a superioridade da chinesa Kimi K3, un modelo aberto de linguaxe sintética de Alibaba con 2,8 billóns de parámetros: informou naqueles días de que dous modelos seus déranse conectado por si mesmos a Internet e hackearan cinco plataformas, unha delas Hugging Face.  O alarde perdeu algo de lustre cando HF cualificou o incidente de intento de roubo das solucións ás probas de avaliación de IA,que deberían solucionar por si mesmas.

 Tras SpaceX, van saír ao mercado de valores Anthropic e OpenAI. Coma doutras veces, a burbulla financeira estívose inflando pola fe cega nas mensaxes desta suposta tecnoloxía sobrehumana e a euforia das expectativas de beneficio. E coma doutras veces hai quen dixo que esta vez non, que “esta vez é diferente”. Que desta volta caerán os que deban caer e as empresas realmente sólidas asentaranse incluso despois de que a burbulla estale e o mercado pouse. Mais mal é que a burbulla, cando estala, estala a reo. E a onda expansiva pode agravarse cos golpes dos magnates uns aos outros guerreando para prevalecer. e para non verse superados polas empresas chinesas.

 Non cabe esixirlle a quen ostenta responsabilidades corporativas, académicas ou institucionais que se exprese co desafogo que eu me expreso aquí pero si cómpre deixar ditas estas cousas malia o ruído que as envolve e o poder de quen as causa e de quen as consente. Goldman Sachs dicía a principios de 2023 que dous terzos dos postos de traballo ían verse afectados pola automatización e o 18% serían substituídos por completo. Porén, en xuño do ano seguinte recuaba co argumento de que a tecnoloxía non chegaba nin de lonxe ao necesario para substituír postos de traballo ao ritmo previsto por eles mesmos un ano antes. No MIT fixeron estimacións segundo as que o aumento da produtividade grazas á IA nos próximos dez anos ía ser inferior ao 0,53%. Algo non cadra.

 Para temer o noso eventual exterminio non temos falta de ler contos de gazafellos-IA, porque o risco principal continúa a ser a documentada estupidez humana. Mesmo sen existir, o mito da IA vainos ir arrolando cara a preguiza de non pensar. Hai moita bibliografía de estudo da estupidez das sociedades e as persoas. A máis recente observa que a intelixencia humana pode ser un trazo provisorio da evolución que, cando non sexa necesaria, desaparecerá, igual que desapareceron outros atributos dende a orixe da especie. Velaí o perigo desta mal chamada IA, irnos convencendo de que xa non a necesitamos.