Anthropic prohíbe el uso "cruel" y abusivo de su inteligencia artificial Claude
La compañía estadounidense actualiza sus condiciones para que el modelo corte las interacciones dañinas, entre críticas y debates sobre conciencia.
La compañía estadounidense actualiza sus condiciones para que el modelo corte las interacciones dañinas, entre críticas y debates sobre conciencia.
La compañía tecnológica Anthropic, con sede en San Francisco (Estados Unidos), ha actualizado su política de uso para prohibir formalmente que los usuarios sometan a su sistema de inteligencia artificial, Claude, a comportamientos sostenidos de crueldad o abuso innecesario. La medida se produce en pleno auge del debate filosófico internacional sobre la naturaleza de la IA y la posibilidad de que estos sistemas alcancen algún tipo de conciencia.
La actualización de los términos de servicio de Anthropic establece de forma explícita la "prohibición del comportamiento sostenido e innecesariamente abusivo o cruel hacia nuestros modelos". De acuerdo con la compañía, la ejecución de esta norma recaerá en la propia plataforma: "La capacidad de Claude para poner fin a estas interacciones seguirá siendo el principal mecanismo de aplicación".
Esta decisión da continuidad a la medida adoptada por la firma el año pasado, cuando otorgó a Claude la facultad de interrumpir la conversación en situaciones excepcionales de "interacciones con usuarios persistentemente dañinas o abusivas". Aunque la política revisada no cita textualmente el término "bienestar de los modelos" —concepto que explora si la IA debería recibir protecciones similares a las de los seres vivos—, tanto la empresa como sus ejecutivos han abordado abiertamente esta idea. Por el momento, Anthropic no ha ofrecido comentarios adicionales tras ser consultada.
La frontera entre la simulación y la sensibilidad sigue generando interrogantes en el sector tecnológico. El pasado mes de febrero, el director ejecutivo de Anthropic, Dario Amodei, reconoció en declaraciones al diario The New York Times no estar seguro de si los modelos de inteligencia artificial pueden llegar a ser conscientes.
Frente a esta incertidumbre, diversos expertos sugieren cambiar el enfoque de la discusión. Jackson Stakeman, gerente general del proveedor de servicios de IA Sparq, señaló a la agencia AFP que indagar sobre la conciencia de las máquinas puede ser un planteamiento equivocado. "La conciencia es una trampa. No podemos demostrarla en los demás. Debatirla en el caso de la IA es dar vueltas en círculos", afirmó Stakeman, añadiendo que "el espejo es una mejor metáfora. Estos sistemas reflejan lo que ponemos en ellos, a gran escala. Eso es motivo suficiente para el cambio de política".
El dilema alrededor de la inteligencia artificial también ha alcanzado al ámbito institucional y religioso. Durante un discurso pronunciado en la Basílica de San Pedro, el papa León XIV sugirió que las máquinas carecen de alma, argumentando que estos sistemas informáticos simplemente se dedican a "compilar datos".
Pese a las distintas posturas filosóficas y teológicas, la decisión de Anthropic sienta un precedente en la regulación de la interacción entre humanos e inteligencia artificial, priorizando el control de la conducta de los usuarios sobre sus plataformas.
Un investigador de IA acusó a las empresas que desarrollan sus modelos de “jugar con nuestras vidas” y provocó una polémica global. El Observador consultó a cuatro modelos de lenguaje y todos le dieron la razón. Qué dice la IA sobre la amenaza de la IA.
El CEO y uno de los fundadores de Anthropic reclamó moderar el desarrollo de la IA por el riesgo a que provoque ataques informáticos o bioterrorismo. Fue después de la polémica que desató un ingeniero británico sobre la posibilidad de una eliminación de la humanidad. Elon Musk (Space X) y Sam Altman (Open AI) se suman.
La tecnológica de Inteligencia Artificial fundada por los hermanos Amodei abre en Madrid su primera oficina española. Intentan aprovechar la inserción de Claude en empresas locales importantes. Su responsable, la ejecutiva Cristina Pitarch, asegura que tendrán en cuenta la polémica por los riesgos de la IA para el ser humano.
La esperada presentación del formulario S-1 informa que el creador de Claude perdió 8 000 millones de dólares el año pasado, con unos ingresos de 4 600 millones.