León XIV ha advertido sobre el tecnofacismo, la amenaza de una imposición de la moral de quienes desarrollan la tecnología de la Inteligencia Artificial, hoy en manos de aliados de Donald Trump.
Ha pedido un desarrollo ético de la misma, haciendo paralelismos con la esclavitud -por la que ha pedido perdón oficialmente, ya que hubo Papas que tuvieron esclavos y El Vaticano otorgó "permisos" para el comercio de personas a varios países europeos- y advirtiendo también sobre un nuevo "colonialismo digital" y "nuevas esclavitudes digitales".
Cuando habla de "desarmar" la IA, un término que dice que es necesario para "captar la atención", es porque al usarla en la guerra, se pierde toda humanidad, toda valoración moral para considerar "justas" las acciones bélicas si la decisión le queda a las redes neuronales, que como dijo Christopher Olah, co-creador de Anthropic, la empresa detrás del chatbot Claude, ni siquiera sus programadores conocen bien cómo toma las decisiones, cómo aprende y cómo entender las "señales de discernimiento interno".
No es sólo una rara ocasión en la que religión y tecnología se cruzan, sino que el Papa no está solo. Leyó la encíclica él mismo acompañado de este pionero de la IA, lo que pone muy de manifiesto que la preocupación ética (que primero separó a co-fundadores y miembros de Open AI y luego llevó a un conflicto con el Pentágono) también está del lado de quienes están involucrados en su desarrollo.
Lo que Olah advierte es que hay un gran vacío ético mientras el desarrollo de la IA va a hiper-velocidad. ¿Quién está encargado de regular los usos y formas de la IA? ¿Son los Estados, es la sociedad civil o las propias compañías que tratan de rentabilizar su aplicación quienes deben poner los límites y las líneas rojas?
