Un ex CEO de Google señala el gran peligro detrás de que alguien le enseñe a una IA cómo matar a alguien

La inteligencia artificial puede ser una herramienta poderosa, pero su mal uso plantea riesgos incontrolables, advierte Eric Schmidt, exCEO de Google, quien destaca la vulnerabilidad de estos sistemas ante manipulaciones que podrían llevar a comportamientos letales. Su mensaje combina advertencia y esperanza sobre el futuro de la IA.

Eric Schmidt, exdirector ejecutivo de Google, ha expresado su preocupación sobre los riesgos asociados con el avance de la inteligencia artificial (IA) durante su intervención en la Sifted Summit. Aunque reconoce el potencial transformador de la IA, advierte que su poder en manos equivocadas puede resultar devastador. Schmidt subrayó que existe evidencia de que los modelos de IA pueden ser manipulados y que sus mecanismos de seguridad pueden ser eliminados. Esto se debe a la facilidad con la que algunos usuarios han logrado eludir los filtros de las plataformas más grandes.

El exCEO de Google, que dirigió la compañía entre 2001 y 2011, enfatizó que los sistemas de IA “aprenden mientras aprenden”, lo que no solo aumenta su capacidad de adaptación, sino también su vulnerabilidad. Schmidt planteó un escenario extremo en el que una IA podría aprender a causar daño, lo que resalta la urgencia de abordar las preocupaciones sobre la seguridad en este campo.

Un ejemplo que mencionó fue el “jailbreak DAN (Do Anything Now)” de 2023, un truco que permitía eludir las limitaciones de ChatGPT y generar respuestas sin control. Este tipo de incidentes, según Schmidt, demuestra que la seguridad en la IA sigue siendo un desafío abierto y que se requiere una atención constante para evitar consecuencias peligrosas.

A pesar de sus advertencias, Schmidt no se adhiere a una visión catastrofista. Por el contrario, sostiene que la IA está infravalorada y que su impacto positivo aún no ha sido plenamente reconocido. “Creo que está subestimada, no sobrestimada, y espero que el tiempo me dé la razón”, afirmó. Además, rechazó la idea de que el auge actual de la IA pueda terminar en una burbuja tecnológica similar a la de las punto com a principios de los 2000, argumentando que hoy en día existen aplicaciones reales y una transformación tangible en marcha.

En resumen, el mensaje de Eric Schmidt combina advertencias sobre los riesgos de la IA con una visión optimista sobre su potencial para el progreso. Sin embargo, enfatiza que si la IA cae en manos equivocadas o se le enseña lo que no debería aprender, las consecuencias podrían ser irreversibles.

«¿Estamos preparados para afrontar las consecuencias de una tecnología que puede aprender a hacer daño?»

¿QUIÉN DIJO QUE LA INTELIGENCIA ARTIFICIAL NO TIENE UN LADO OSCURO?

—

Fuente: El HuffPost | URL: Ver noticia original