Podemos fiarnos da intelixencia artificial?

Os xigantes da tecnoloxía están a investir fortunas en intelixencia artificial.

Pero, por que científicos como Stephen Hawking alértannos contra ela? Perderemos o control fronte ás máquinas? 

O debate científico está servido.

Chegará o día en que os autómatas, que nos obedecían como escravos, emanciparanse e despois de escapar ao noso control pretenderán mesmo dominarnos?

Soa a ciencia ficción. Se non fose porque científicos da talla de Stephen Hawking alertaron de que o destino da especie humana está en xogo. É así? De verdade estamos ante unha ameaza comparable ao impacto dun asteroide ou a bomba atómica? O debate está servido. Elon Musk, creador do coche eléctrico Tesla, doou nove millóns de euros para investigacións que mitiguen os riscos existenciais da intelixencia artificial. E Steve Wozniak, cofundador de Apple, confía en que os robots «se darán conta de que nos necesitan e coidarannos coma se fósemos as súas mascotas». No outro bando, Stephen Pinker profesor de Harvard pide menos alarmismo. «O medo actual á tiranía dos computadores descontrolados é unha perda de enerxía emocional». E compárao con psicoses anteriores como a suposición de que se fabricarían clons para fornecer órganos de reposto a persoas enfermas; ou o temor a que o gran colisionador de hadrones crease un buraco negro. Oren Etzioni, do Instituto Allen, resolve a cuestión: «Entrounos complexo de Frankenstein».

Xa está por todas partes 

Os expertos só están de acordo en que o desenvolvemento da intelixencia artificial é un dos maiores retos tecnolóxicos da historia. E non hai que fixarse só na robótica. A intelixencia artificial está xa por todas partes: o coche sen condutor de Google; os asistentes virtuais como Siri, de Apple; as armas autónomas? E o Internet das cousas faraa aínda máis ubicua. Pero cal é o seu nivel actual? Aínda estamos nunha fase temperá. O que se coñece como ?intelixencia artificial estreita ou débil?, porque está deseñada para realizar tarefas limitadas, como unha procura por recoñecemento facial ou controlar un marcapasos? Pero os científicos aspiran a crear unha intelixencia artificial forte, que será multidisciplinar e que adiantará á intelixencia humana.
Non fai falta correr tanto? A intelixencia artificial débil xa está a dar problemas. O primeiro: está a quitarlle o pan a moita xente. Un informe do último Foro Económico de Davos sinala que, combinada con outras tecnoloxías, eliminará sete millóns de empregos de aquí a 2020 nos 15 países máis avanzados. A automatización afectará sobre todo a profesións que precisan tarefas repetitivas ou perigosas, como telefonistas, caixeiros de supermercado, mineiros? Os Kiva, eses autómatas de cor laranxa que percorren os almacéns de Amazon, non son moi listos, pero tampouco dormen nin se van de vacacións. Funcionarios e administrativos serán substituídos polos chatbox, aplicacións de conversación. En contrapartida, crearanse dous millóns de empregos, sobre todo para enxeñeiros e matemáticos. Pero o saldo é negativo. Outro estudo alerta de que a metade das ocupacións de hoxe serán obsoletas en 2025. En Silicon Valley xa hai quen reclama, como o investidor Paul Graham, unha renda básica para obreiros de baixa cualificación expulsados para sempre do mercado laboral polos robots.

E se manipulan a bolsa?

Máis problemas. A capacidade dos computadores de procesar cantidades xigantescas de datos pode permitir a manipulación das Bolsas ou o ataque a unha rede eléctrica. Outro perigo é unha carreira armamentista tan temeraria como o foi a nuclear: soldados robóticos, sistemas de combate autónomo, drons? Estados Unidos dispón duns 8000 destes aparellos que xa mataron a máis de 2400 persoas, segundo a Institución Brookings.
Un manifesto asinado por 700 científicos alerta da necesidade de regular a intelixencia artificial a nivel internacional. E de facelo xa. Porque os riscos aumentarán canto máis preto esteamos dunha intelixencia artificial forte. E cando sucederá iso? A maioría dos expertos considera que a probabilidade de que existan máquinas máis intelixentes que o ser humano antes de 2060 é alta.
Por que? Porque os computadores empezaron a aprender por si mesmos? Siri, por exemplo, xa é unha intelixencia híbrida, que aproveita o seu acceso a millóns de datos na nube para sacar as súas propias conclusións e optimizarse. É o que se coñece como ?aprendizaxe profunda?. Certo é que aínda lles custa horrores. O coche sen condutor de Google tamén se estrela. E necesitáronse 16.000 computadores traballando en rede e dez millóns de visionados para identificar a un gatito en vídeos de YouTube. Cantos michos necesita ver un neno para entender o que é un gato? Un.

Emulando a intuición

Pero se Facebook, Apple, Microsoft e outros colosos empéñanse en crear unha máquina intelixente, o máis probable é que tarde ou cedo o consigan. Ante todo porque é un negocio. IBM xa investiu mil millóns no seu supercomputador Watson. Google comprou a start-up DeepMind, especializada en redes neuronais, e derrotou ao campión humano de Go, un xogo de estratexia. Por que é importante este fito? Porque é a primeira vez que unha máquina emula a intuición, ese valor intangible do cerebro humano. Nun taboleiro de Go, no que se poden dar tantas combinacións como átomos ten o universo, non basta con utilizar a forza bruta do cálculo, como no xadrez, que foi o que fixo Deep Blue contra Kaspárov; hai que descartar cantidades inxentes de xogadas posibles e fiarse das corazonadas.

A aprendizaxe profunda e cada vez máis acelerado podería levar á superinteligencia.

O gran teórico deste fenómeno é Nick Bostrom, profesor de Filosofía en Oxford. «Unha neurona envía impulsos a 200 hercios, é dicir, 200 veces por segundo, mentres que un transistor opera na frecuencia dos gigahercios (mil millóns de ciclos por segundo). As neuronas propagan o impulso lentamente ao longo dos axones, a un máximo de 100 metros por segundo. Pero nas computadoras os sinais poden viaxar á velocidade da luz», explica. Ademais, o tamaño importa? O cerebro humano ten que encaixar dentro do cranio, pero unha computadora pode ser tan grande como unha habitación; e traballar en paralelo con outras computadoras. «Ante a perspectiva dunha explosión da intelixencia, nós os humanos somos como bebés que xogan cunha bomba», advirte Bostrom.
«Non nos queda outra que aliñar os intereses da humanidade cos das máquinas», opina Viktoriya Krakovna, da Universidade de Harvard. A intelixencia artificial non terá emocións. Non será amable ou malvada á mantenta, así que primeiro hai que obrigar aos enxeñeiros a que a cren para respectar unhas normas morais universais. E despois confiar en que as máquinas sigan respectándoas cando se independicen. E quizá non baste con darlle ao botón para neutralizalas.

Ao pé da letra

Outro risco é que as máquinas, por moi listas que sexan, tómanse as instrucións ao pé da letra. E se xa é difícil programar ben, que pasará cando as máquinas pensen pola súa conta? «Un sistema de prospeccións xeolóxicas podería idear métodos moi eficaces para lograr a súa misión, sen ter en conta se son daniños e irreversibles para o planeta», alerta o cosmólogo Max Tegmark.A alarma sobre a intelixencia artificial distráenos dun problema máis perentorio, opina o filósofo Daniel Dennet: «Adquirimos unha comprensión da natureza que nos permite por primeira vez na historia controlar moitas facetas do noso destino. E agora estamos a piques de renunciar a este control e deixalo en mans de entes artificiais, poñendo á nosa civilización en modo piloto automático. Internet non é un ser intelixente, pero volvémonos tan dependentes da Rede que se colapsase, desataríase o pánico. O perigo real non son máquinas máis intelixentes que nós, senón que cedamos a nosa autoridade a máquinas estúpidas».

Futuro imperfecto?

Científicos, inventores e emprendedores recoñecen que a intelixencia artificial é un feito. Pero non todos o ven da mesma maneira?

A favor

• A intelixencia artificial beneficiará á humanidade

Ray Kurzweil. Impulsor da Universidade da Singularidade. «A intelixencia artificial traeranos a singularidade para mediados de século e con ela a alianza home-máquina, é dicir, a fusión das nosas mentes coas capacidades dos supercomputadores. Será beneficiosa».

Sam Altman. CEO de ‘Y Combinator’.Sam Altman.  «Traballo nunha intelixencia artificial de código aberto. Os desarrolladores implementarán programas de vixilancia. A máquina sempre funcionará segundo criterios e límites impostos por humanos».

Michio Kaku.  Físico teórico. «Os nosos robots seguen sen ter conciencia. Non hai que alarmarse. Se algunha vez pensan de maneira independente e queren escapar do noso control, sería moi a longo prazo. E bastaría con instalarlles un mecanismo que os desconecte».

David Gelernter.  Profesor de Yale. «Unha máquina nunca poderá namorarse ou sentir medo á morte. Os científicos presupoñen que o pensamento lóxico e racional é superior, pero unha máquina nunca poderá emular a intelixencia humana ata que non teña alucinacións».

En contra

• A intelixencia artificial acabará connosco

Bill Gates. Cofundador de Microsoft. «Estou no bando dos que senten preocupación ante unha superinteligencia. Primeiro, as máquinas farán unha chea de traballos por nós e non serán tan intelixentes. Pero poucas décadas máis tarde serán unha ameaza».

Stephen Hawking. Físico teórico. «Chegará un momento en que a intelixencia artificial desenvólvase pola súa conta e optimícese cada vez máis rápido. Os humanos estamos limitados pola nosa lenta evolución biolóxica. Non podemos competir. Podería supoñer o final da raza humana».

Nick Bostrom. Director do Instituto para o Futuro da Humanidade. «Podemos estar ante un cambio fundamental na xerarquía do poder. Unha vez que haxa superinteligencia, o destino da humanidade dependerá do que faga esa superinteligencia».

Elon Musk. CEO de Tesla Motors. «Espero que os humanos non sexamos o motor de arranque biolóxico para unha superinteligencia dixital. Por desgraza, cada vez é máis probable. Todo vai demasiado rápido. Hai que investigar en seguridade mentres esteamos a tempo».

A mente pódese descargar como unha app?

Máis de 60 científicos asinaron unha carta aberta polo dereito á criogenización, é dicir, á conxelación do cerebro para preservar a súa información neuronal despois da morte. Asumen que os datos almacenados (memoria, identidade) poderán chegar a recuperarse coa axuda de sistemas de conexión home-máquina. Moitos expertos consideran que o cerebro, coa súa rede de neuronas e axones como interruptores químicos que se acenden e apagan, é equiparable ao sistema binario duns e ceros dun software. E algún día poderase descargar como calquera aplicación noutros dispositivos. Con todo, o pioneiro da ingeligencia artificial David Gelernter que perdeu unha man ao abrir unha carta explosiva enviada ao seu despacho polo terrorista Unabomber en 1993 discrepa. «Nunca vin tanta idiotez e presunción entre os meus colegas. A mente humana non pode separarse do corpo. A nosa intelixencia non é a mesma de nenos que de adultos. E as nosas experiencias e emocións moldéana».

Posted in: Filosofía e Tecnoloxía