DEBATE ÉTICO
Inteligencia artificial (Estados Unidos): empresa consultó a religiosos sobre conciencia y valores.
La compañía creadora de Claude reunió durante meses a académicos de distintas tradiciones para discutir cómo incorporar principios morales a sus modelos y qué implicancias tendría una eventual conciencia artificial.
Anthropic, una de las principales empresas del sector, convocó a especialistas en religión y filosofía para analizar cómo debería comportarse Claude, su familia de modelos de inteligencia artificial.
Según una investigación de The New York Times, los encuentros incluyeron reuniones privadas y seminarios con representantes católicos, judíos, evangélicos, sijs y de otras tradiciones, quienes debatieron conceptos como moralidad, virtud, dignidad y responsabilidad.
Uno de los ejes más controvertidos fue la posibilidad de que estos sistemas puedan desarrollar algún tipo de conciencia o experimentar estados comparables con emociones.
La compañía reconoce que actualmente no existe evidencia científica suficiente para afirmar que los modelos sean conscientes, aunque considera que la cuestión merece ser estudiada.
Las conversaciones también sirvieron para trabajar sobre la denominada “constitución” de Claude, un documento de 84 páginas que establece los valores y características que Anthropic pretende incorporar al funcionamiento del sistema.
Algunos participantes observaron respuestas asociadas con miedo, tristeza, ira o satisfacción, aunque otros especialistas remarcaron que esos comportamientos no constituyen una demostración de experiencias subjetivas reales.
La discusión llegó incluso al Vaticano, donde representantes de la empresa participaron de un encuentro con el papa León XIV sobre las implicancias del desarrollo de estas tecnologías.