Un grupo de académicos de renombre ha emitido una carta abierta advirtiendo sobre los riesgos potenciales de la inteligencia artificial (IA) autónoma. La carta se publica una semana antes de la Cumbre de IA en Londres y cuenta con la firma de varios académicos europeos, tres ganadores del Premio Turing y los llamados «padrinos de la IA», Yoshua Bengio y Geoffrey Hinton.

La carta destaca que, aunque la IA tiene el potencial de impactar positivamente en la humanidad, la falta de inversión en seguridad y ética podría tener el efecto contrario. Los firmantes advierten que la IA ya ha superado las habilidades humanas en ciertos dominios y que podrían surgir «habilidades y comportamientos imprevistos» sin programación explícita. Según la carta, «sin la debida precaución, podríamos perder el control irreversible de los sistemas de IA autónomos, lo que haría ineficaz la intervención humana». Esto podría llevar a una serie de peligros preocupantes y en aumento, que van desde el cibercrimen y la manipulación social hasta la pérdida a gran escala de la biosfera y la extinción.

Los académicos instan a las empresas a destinar al menos un tercio de su presupuesto de I+D a la seguridad y ética de la IA. También piden a los gobiernos que establezcan normas y regulaciones y que faciliten la cooperación internacional para evitar la imprudencia y el mal uso. A pesar de las advertencias, el sector empresarial ha expresado diferentes preocupaciones, temiendo que la regulación ahogue la innovación. Sin embargo, los académicos concluyen que «para orientar la IA hacia resultados positivos y alejarla de la catástrofe, necesitamos reorientarnos. Hay un camino responsable, si tenemos la sabiduría para tomarlo».

En resumen

Un grupo de académicos de alto nivel advierte en una carta abierta sobre los peligros de perder el control sobre la IA autónoma y pide más inversión en seguridad y ética.

*** Información extraída del artículo original: ‘We may irreversibly lose control of autonomous AI,’ warn top academics, publicado en TNW | Deep-Tech***

.
.
.
.