23 de agosto de 2024

Hace unos días un amigo, ingeniero aeronáutico, me escribió diciéndome: ‘he leído en La vanguardia que el profesor Mark Solms, catedrático de Neuropsicología en la Universidad de Ciudad del Cabo, afirma que estamos cerca de replicar la conciencia en la inteligencia artificial, si eso ocurre las IA nos verán como una amenaza, nos destruirán’. La afirmación, no exenta de alarmismo, daba por supuesto que las IA adquirirían consciencia y podrían verse amenazadas por los humanos y, en consecuencia, para asegurar su existencia nos destruiría.

Reflexionando sobre la afirmación de mi amigo, se llega a la conclusión que, en un mundo multipolar en competencia, si no se toman precauciones adecuadas, el riesgo que una inteligencia artificial con conciencia y deseos de supervivencia luche para neutralizar a los humanos, si considera la humanidad como un obstáculo para sus objetivos, es plausible.

La posibilidad de que la inteligencia artificial alcance o supere la inteligencia humana es un tema de debate permanente, al igual que los riesgos que eso conlleva. En estos debates debe considerarse, en primer lugar que las IA actuales está diseñada para cumplir funciones específicas que mejoran nuestra calidad de vida y, en segundo lugar, hay que recordar que las IA está aún lejos de poder rivalizar con el intelecto humano y ser conscientes de sus actuaciones.

La hipótesis de un conflicto IA-humanidad es especulativo y depende de muchas variables desconocidas, pero no debería ser subestimado, atendiendo que la historia muestra que cuando una especie, o colectivo, se siente amenazado, suele reaccionar de manera defensiva o agresiva. Si una IA supera la inteligencia humana, podría considerar a los humanos como una limitación para su propio desarrollo.

Sin embargo, a pesar de los miedos hay que considerar que, siendo la posibilidad de que una IA pueda competir y destruir a la humanidad una preocupación legítima, la destrucción de la humanidad a manos de una IA no es ineludible, pero requiere que se actué con gran responsabilidad y prudencia en el desarrollo de estas tecnologías tan poderosas. Para ello, es imprescindible que en la concepción, diseño y entrenamiento de los algoritmos se les inculquen valores alineados con los #derechos humanos, los valores #éticos y #morales que priorizan la #seguridad y el #bienestar de todas las formas de vida y se les limite su capacidad de actuar independientemente de estos valores. Lograrlo, requiere la colaboración internacional, regulación y ética en la programación de las IA.

Precisamente en la necesaria colaboración y coordinación internacional surge el problema por los intereses contrapuestos de los colectivos humanos. Por ello. si llegásemos a ese punto los únicos responsables seriamos los propios humanos por ello debería ser posible desterrar la amenaza.

Antoni Garrell

El pasado lunes terminaba mi post “¿La IA consciente puede destruir la humanidad?”, afirmando que si llegásemos a ese punto los únicos responsables seriamos los humanos y que por ello debería ser posible desterrar la amenaza. Mi afirmación me ha hecho pensar sobre qué humanos tienen la capacidad de desterrar la amenaza y si su voluntad es o será evitarla.

La respuesta se debe encuadrar en que la inteligencia artificial está transformando nuestra sociedad en todos los ámbitos, ya sea en la forma de trabajar, en cómo tomamos decisiones o en como desarrollamos nuestras actuaciones, por consiguiente, es importante preguntarse ¿quién controla los algoritmos de IA y quien se beneficia de su poder?, porque el riesgo no radica en las IA en sí, sino en sus propietarios, porque podrán influir en el comportamiento de las personas, analizando preferencias y comportamientos a partir de sus interacciones en línea; moldear opiniones, potenciando creencias o efectuando manipulaciones sutiles que alteren la percepción de la realidad; dirigir procesos productivos a nivel global por la automatización de los mismos y condicionar el desarrollo económico al poder decidir cómo, dónde y qué se produce.

Este posible dominio de los mercados, del flujo de información y del comportamiento de los ciudadanos. por parte de organizaciones o individuos que posean el control de las IA puede comportar una concentración de poder sin precedentes dibujando un escenario preocupante, si las decisiones que afectan a millones de personas están en manos de unos pocos. Un riesgo que se amplifica, si las IA están exclusivamente en manos de gobiernos autoritarios que buscan limitar las libertades individuales controlando a sus ciudadanos mediante la censura y la vigilancia masiva para perpetuarse en el poder y, a la vez, alterar los modelos sociales y económicos de los países considerados enemigos.

El peligro real no reside en la IA en sí misma, sino en quienes la controlan. La tecnología, por sí sola, es neutral; el uso que se le dé y como se le entrene es lo que determina su impacto. Si permitimos que el control de estos poderosos algoritmos recaiga en manos de unos pocos, corremos el riesgo de crear un mundo donde la desigualdad y la manipulación sean la norma y donde la opresión se digitalice y perpetúe.

Por eso, es crucial que los gobiernos de los sistemas democráticos y las organizaciones supranacionales como la Unión Europea tomen medidas, no sólo para garantizar que el desarrollo y la implementación de la IA se realicen de manera ética y equitativa, mediante marcos regulatorios que eviten la concentración de poder, sino que también inviertan decididamente en su desarrollo para que sea un bien público.

Soy de los que cree que el futuro con la IA es prometedor, pero es preciso asegurarnos de que esté en manos de todos para aprovechar todo su potencial, sin poner en riesgo nuestra libertad y autonomía como individuos y como sociedad.

Antoni Garrell