Intelixencia artificial, estupidez natural

Parte 3 (fin)

Share on facebook
Facebook
Share on twitter
Twitter
Share on google
Google+
Share on whatsapp
WhatsApp
Share on telegram
Telegram
Share on email
Email
Share on facebook
Share on twitter
Share on google
Share on whatsapp
Share on telegram
Share on email

6. A diferenza da cousa, a máquina está aí, apagada aínda que estea acesa: “sen alén”. É sempre estúpida, en palabras de Kaspárov. Que ninguén se ofenda. A inmensa vantaxe do home é ser tecnoloxicamente incorrecto (Baudrillard): é dicir, impredicible; pode dar un salto xenial nun momento e deprimirse ou suicidarse en calquera outro instante. E isto é xenial para o xogo: ademais, hai outra cousa que xogo, teatro, lance? A vida é outra cousa que xogo? Ata Deus, á marxe das esperanzas clásicas de Einstein, non deixa de xogar aos dados. Isto non di nada en contra da noción moral de verdade, pero subordínaa ao movemento real, impredicible. Nietzsche chega a dicir no Zaratustra: “Só crería nun deus que soubese bailar”.

Segundo Searle e outros pensadores radicais da tecnoloxía, a intelixencia nace das bioloxías. En poucas palabras, da pobreza. Se repasamos a biografía de calquera xenio, sexa da literatura ou da ciencia, veremos que os conceptos e os dispositivos revolucionarios (a máquina ENIGMA) xurdiron dos traumas, as continxencias, a tensión das emerxencias e o inminente. Só pola presión intolerable do real somos humanos. No descoñecido e á vez famoso discurso de Steve Jobs en Stanford (o día que o nomean doutor Honoris Causa, pero ningún estudante atende ás súas palabras) el recoñece que o fracaso da programación na súa mocidade, e máis tarde cando o expulsan da súa propia empresa, permitiulle o beneficio inmenso de ser outra vez un principiante, partindo de novo cos petos baleiros. A xeración Beat era así, sempre no camiño. Be hungry.

No seu famoso texto de 1950, Maquinaria computacional e intelixencia, Alan Turing cita a Lady Lovelace, quen se queixa de que as máquinas nunca nos sorprenden… salvo que se avaríen. Nese caso a sorpresa non adoita ser agradábel. A verdade é que son un pouco patéticos os esforzos do matemático para refutar esta simple afirmación dunha dama. A máquina non sente, non toma decisións, non cambia, non aprende: sempre obedece. E se se avaría, iso tamén demostra os seus límites. Un home nunca se avaría: enferma ou se rebela, levándose ás veces consigo os signos da súa transformación. A mellor máquina do mundo non sente, non sofre, non fai preguntas que non sexan operacionais. Se lle preguntas a Siri que opina da morte… despois duns segundos de silencio contesta: “Xa sabes que non me gusta que me fagan preguntas persoais”. Her é unha preciosa variación sobre isto, pero o final é bastante triste: cando o protagonista acepta que “ela” teña centos de relacións á vez, finalmente anúnciase a súa obsolescencia programada, co que toda a encantadora relación será borrada.

“Nesa facultade inútil como saborear un prato está a diferenza inmensa, a grandeza e a miseria, do humano. Pero sen miseria non hai grandeza, sen Diaño non hai Deus. É desde o diabolicamente divino que o home realiza o que se chama pensar, algo moi distinto a unha operación de cálculo.”

A máquina só sabe facer ben unha cousa, nunha liña de operacións múltiples para a que foi programada. Ignora todo o demais no que se chamou un esquecemento catastrófico. Por iso dise que non aprende, pois o seu esquecemento catastrófico inclúe os fallos que comete na súa programación: tampouco sente. Neste aspecto, toda máquina é unidireccional. Cando Turing recoñece que facer unha máquina que entenda de saborear amorodos con nata é posible, pero sería realmente “estúpido”, está a expresar, talvez sen ser consciente diso, unha das limitacións do computador +. Precisamente nesa facultade inútil como saborear un prato está a diferenza inmensa, a grandeza e a miseria, do humano. Pero sen miseria non hai grandeza, sen Diaño non hai Deus. É desde o diabolicamente divino que o home realiza o que se chama pensar, algo moi distinto a unha operación de cálculo.

O chamado factor humano, unha natureza deficitaria que causou tantas catástrofes, é tamén o que xerou marabillas incontables, non todas traducibles en termos de utilidade ou, naturalmente, diñeiro. O que ás veces chamamos manual é algo complexísimo e intuitivo que ás veces permite corrixir erros aberrantes do automatismo ou fallos absurdos da mellor máquina. Se ese duplicado manual non existe, máquinas e homes están ao azar de mil factores impredicibles, como neses absurdos accidentes que vemos nos diarios. Lembremos a heroica aterraxe dun piloto civil no río Hudson narrado por Eastwood en Sully. En caso de accidente aéreo, de feito, con frecuencia o prezo do adestramento do piloto (deixando á marxe o valor incalculable dunha vida) poida superar ao custo do aparello perdido.

É preciso lembrar que a base tecnolóxica de todas as instalacións militares sensibles é analóxica e manexable por un home que toma decisións. Como non ía ser así? Para tomar decisións cruciais non se pode confiar nunha máquina automática. O botón nuclear non pode estar en mans dun mecanismo puramente reflexo, por “intelixente” que sexa. En terreos máis inocuos, é equiparable un prato cociñado coa mellor máquina do mundo a outro feito manualmente, calculado e saboreado por unha cociñeira? Tampouco. Igual que non se aprende a conducir cun marabilloso curso on line: a realidade, da que aínda non nos libramos, require unha “máquina” capaz de sufrir. A cadea de produción de automóbiles pódese automatizar, pero o acabado e a revisión ha de ser humano. Igual que a revisión dun jet en terra. A torpeza fatal do automatismo compróbase simplemente no tradutor “intelixente” de Google: despois de dúas ou tres versións consecutivas do texto orixinal, por breve e simple que sexa, calquera parecido co orixinal é un milagre.

Fotogramas da película ‘IA’ de Steven Spielberg (2001).

“A máquina non imita o home: simplemente, simula a simulación. Ata a capacidade do home para o mal é inimaxinable polo mellor programa. O home só consegue pensar en abstracto, xogando, cazando ou traballando, cando o fai con todo o corpo, cunha complexidade afectiva que inclúe intuicións, que non veñen de ningún lado, e a toma de decisións inesperadas, sobre a marcha.”

7. En fin, estamos a repetir cousas obvias. Que é entón o home, que significa pensar? No texto citado, Searle insiste con razón en que a linguaxe non é unha mera combinación sintáctica de símbolos, senón unha operación semántica na que mil factores circunstanciais (entoación, contexto, xogos de palabras, ambivalencias…) entran en xogo. De feito, os factores non literais nin sintácticos explican o humor, os problemas de tradución e que unha frase ou palabra poida cambiar drasticamente de sentido.

Que sabe da intelixencia, do aceso un dispositivo que non sabe nada do apagado, da desaparición, do silencio? Por esta relación do humano coa finitude o director Pasolini é capaz de facerlle dicir en italiano a un actor “Boa noite” con sesenta (!) significados diferentes.

O modelo instrumental da razón, guiado antes por Alemaña e hoxe polo pragmatismo estadounidense, apenas serve para explicar nada. O condutismo das condutas (nas compras, na publicidade, no traballo) facilita obviamente a simulación. Pero ningunha conduta humana, en momentos cruciais ou banais, pode explicar o pensamento. Mesmo cando perde a súa última partida (contra outros homes escondidos, pois Kaspárov acusa á NASA de facer trampas), as caras de decepción, enfado, desconcerto, tristeza e ira do xogador ruso seguen expresando unha complexidade infinita, fatídica e inimitable pola mellor máquina. A máquina non imita o home: simplemente, simula a simulación. Ata a capacidade do home para o mal (lembremos o piloto suicida de Germanwings) é inimaxinable polo mellor programa. O home só consegue pensar en abstracto, xogando, cazando ou traballando, cando o fai con todo o corpo, cunha complexidade afectiva que inclúe intuicións, que non veñen de ningún lado, e a toma de decisións inesperadas, sobre a marcha. “Como todo o que vale a pena, chegou de forma inesperada e sen método”, di unha encantadora comedia.

A propia intuición ou insight (Einsicht) é un salto sobre toda lóxica, máis aló dunha programación meramente formal. A desconexión, a desprogramación dun ser tecnoloxicamente incorrecto, iso que Turing chama solipsismo (sen entender o concepto de Wittgenstein), é o que permite que o home sexa capaz de facer cousas que desorientan á mellor máquina. Elas son intelixentes ao prezo de non saber nada da intelixencia, do seu salto no baleiro.

De feito, concentrarse (para facer unha xogada, para lanzar un penalti, para resolver unha encrucillada ou un enigma) esixe saber limitar ou suspender a información, ignorar unha infinidade de datos para atender só a uns poucos. Ou a ningún. Isto é o que se chama unha decisión: e sen decisión non hai concepto, intuición, pensamento, que sempre supón un encontro continxente co real, un salto e unha creación ex nihilo, desde a “nada” que está fóra de calquera programación.

“Pensar é unha cuestión persoal, feita (para ben ou para mal) con toda a patoloxía dun corpo. O pensamento é en si mesmo unha praxis incalculable, pois o ser humano non pode pensar sen transformarse á vez noutra cousa, que volverá pensar desde un estado de ánimo e “programación” descoñecidos.”

Polo demais, lonxe tamén do que se pensa, o “infinito en acto” do pensamento pouco ten que ver coa capacidade de almacenamento, que segue sendo un proceso meramente aditivo ou sumatorio. A simple distinción que fai Thomas S. Kuhn entre ciencia normal e ciencia revolucionaria, xa pon no campo mesmo da ciencia un salto no pensar que pode romper con calquera norma e paradigma coñecido.

Como mostra a caligrafía ou o estilo oral, pensar é unha cuestión persoal, feita (para ben ou para mal) con toda a patoloxía dun corpo. É o que H. Arendt, no prólogo á A condición humana chama “discurso”, un proceso de significado que carece de metalinguaxe que o goberne. O pensamento é en si mesmo unha praxis incalculable, pois o ser humano non pode pensar sen transformarse á vez noutra cousa, que volverá pensar desde un estado de ánimo e “programación” descoñecidos. Coa axuda de Turing os aliados puideron descifrar algúns códigos de transmisión de ordes da Wermacht, non a fonte humana da que emanaban, ás veces infernalmente xenial, criminal e sorpresiva; por non dicir literalmente suicida.

8. Ao final, o propio intelecto que pensa a tecnoloxía (é o caso dese discurso de Steve Jobs en Stanford, tamén do capítulo 7 de A singularidade está preto, de Ray Kurzweil) acaba chegando a conclusións parecidas ás de vellas sabedorías, incluídas as de Buda, o cristianismo ou os Upanishads. E se, como sostiña Platón, toda presenza real se dá dentro dun infinito previamente mental? “A esencia do ser humano é a súa existencia”, di Heidegger nun momento crucial de Ser e tempo (§ 35), para explicar unha circularidade onde o pensamento non ten ningún referente externo, neutral ou puramente “material”, que lle sirva de chan e campo definitivo de probas. Por esta razón a propia ciencia demostrou cousas tan dispares, mesmo dentro dunha mesma época.

As culturas exteriores que ignorabamos ata onte, da matemática chinesa á gramática zapoteca, mostran que ciencia e tecnoloxía transitan mil sendas distintas, algunhas delas perdidas en paradigmas inextricables. Non deixan de ser significativo dous signos do actual momento histórico. Primeiro, con poucas excepcións (Francia?), case todas as nacións que son hoxe temibles tecnoloxicamente son á vez profundamente espirituais ou relixiosas, de modos certamente moi distintos e desde culturas e historias ás veces difíciles de comprender desde fóra. Segundo, o grupo de potencias emerxentes, tanto en ciencia como en economía e en tecnoloxía, está constituído por culturas (creo que México segue sendo un exemplo) que teñen unha profunda relación coa terra, esa intelixencia natural forte que ás veces a mentalidade tecnolóxica ignora ou despreza.

A respiración de Andreas Lubitz, o piloto de Germanwings que estrela o seu aparello cargado de pasaxeiros contra os Alpes, non cambia cando xa tomou a decisión fatal. Traballemos para que nalgúns momentos capitais das nosas vidas o home non imite sequera o mellor das máquinas. O ser humano xamais debe sentirse libre dun debate moral sobre a tecnoloxía, pois, se o humano non a limita, acábaa cargando o diaño.

México, xaneiro de 2019.

Ignacio Castro Rey

Ignacio Castro Rey

Santiago de Compostela, 1952. Filósofo, escritor e crítico de cine e arte. É autor, entre outros, dos ensaios La explotación de los cuerpos (2002), Votos de riqueza (2007), Sociedad y Barbarie (2012) e Ética del desorden (2017).

Outras opinións

Outras opinións

Deixe um comentário

Deixe um comentário