El creciente número de sistemas de gestión eclesiástica basados en la IA ha aumentado la concienciación y renovado las preocupaciones en torno al uso de la IA en la iglesia, y en particular del análisis de los datos de los feligreses basado en la IA.1 Estas preocupaciones echan leña al fuego de la polarización de las perspectivas sobre la IA en la iglesia. Algunos de los que sostienen que la IA es una «amenaza idólatra» ven estos avances como una confirmación de los males de la IA, al tiempo que pasan por alto los beneficios que los feligreses ya han experimentado y las inmensas oportunidades futuras con las crecientes capacidades de la IA. Otros, que ven en la IA una «herramienta providencial», sostienen que los críticos exageran los aspectos negativos y presentan escenarios hipotéticos en torno a esas mismas oportunidades. En lugar de echar leña al fuego, en AI and Faith (IA y la fe)y en el incipiente AI Trust and Accountability Consortium (Consorcio para la Confianza y la Responsabilidad en la IA – AITAC) intentamos promover un sabio término medio que permita el uso ético, eficaz y con base bíblica de estas crecientes capacidades de la IA.
Estas tendencias ponen de relieve por qué el marco de certificación y rendición de cuentas propuesto por AITAC es ahora más necesario que nunca. En lugar de rechazar las innovaciones beneficiosas de la IA o minimizar las preocupaciones con las prácticas actuales, AITAC, actualmente en desarrollo, ofrece un camino equilibrado que preserva los beneficios de las herramientas ministeriales impulsadas por la IA al tiempo que establece, monitorea y certifica el uso de vallas de contención éticas cristianas esenciales.
El reto: innovación sin rendición de cuentas
Una de las preocupaciones más inquietantes es que iglesias bienintencionadas y sus líderes están aplicando una tecnología que ha evolucionado hasta convertirse en sofisticados sistemas analíticos sin el nivel necesario de transparencia o el consentimiento significativo de sus feligreses. Los datos recogidos para un fin podrían ser explotados y utilizados para fines no previstos originalmente ni aceptados por el usuario.
iglesias bienintencionadas y sus líderes están aplicando una tecnología que ha evolucionado hasta convertirse en sofisticados sistemas analíticos sin el nivel necesario de transparencia o el consentimiento significativo de sus feligreses.
recopilan grandes cantidades de datos de los feligreses de las iglesias que las utilizan. Además de recopilar grandes cantidades de datos, los algoritmos de estas aplicaciones y los modelos de software en los que se basan analizan los datos de formas que rara vez comprenden los usuarios y, a veces, ni siquiera los creadores de la aplicación. Por ejemplo, la información proporcionada en las peticiones de oración podría ser interpretada por algunos sistemas de IA como indicadores de salud mental, lo que sorprendería a muchos usuarios que solo buscan oración.
El potencial de disponer de toda esta información en una plataforma integrada, junto con otra información pública, brinda a los líderes de iglesias la oportunidad de orientar las acciones hacia una atención pastoral proactiva o un uso comercial. Gran parte de esto puede ocurrir sin el conocimiento de los feligreses o su consentimiento significativo sobre cómo se utilizan sus datos.
Es importante señalar que no se trata de una historia sobre la maldad intrínseca de la tecnología, sino de que esta poderosa tecnología podría, sin los controles y equilibrios necesarios, implementarse con marcos éticos y vallas de contención inadecuados.
La respuesta de AITAC: marcos éticos estructurados, no rechazo
Si bien son varios los aspectos que deben tenerse en cuenta y abordarse, destacamos dos en particular:
Certificación basada en normas (en lugar de prohibición)
Un enfoque sería optar por no utilizar nunca la tecnología de IA en el entorno eclesiástico. Consideramos que esto es innecesario y contraproducente; en su lugar, nuestro enfoque consiste en utilizar nuestro marco TRUST2 basado en la Biblia para integrar enfoques éticos cristianos junto con la aplicación de normas aceptadas internacionalmente, como las del diseño éticamente alineado del IEEE3 y la serie de normas P7000,4 integradas en el proceso CertifAIEdTM como una forma de proporcionar y certificar las vallas de contención que estas organizaciones necesitan. Las normas técnicas garantizarán una sólida gobernanza de los datos, una protección adecuada de la privacidad y las medidas de seguridad necesarias; el marco ético refuerza los principios cristianos de dignidad humana, transparencia y buena mayordomía. A ambos añadimos los mecanismos de rendición de cuentas de evaluaciones independientes y monitoreo continuo.
La unión de todos estos factores apoyará una innovación responsable que sirva al florecimiento humano y a los esfuerzos misionales cristianos, al tiempo que previene la explotación y la manipulación.
La transparencia como requisito básico
Un principio bíblico fundamental es el amor y el honor mutuos. Esto obliga a los líderes de iglesias a operar sus organizaciones y sistemas de una manera que sea totalmente transparente, y permite a los feligreses y usuarios saber exactamente cómo se están utilizando sus datos y que se les ofrezca la opción de optar por proporcionar o no sus datos o ser evaluados o no algorítmicamente. Para ello se requiere, como mínimo, una divulgación clara de las prácticas de recopilación de datos, explicaciones en lenguaje sencillo sobre el uso de la información, procesos de consentimiento significativos e informes transparentes periódicos sobre todo uso de herramientas de IA que apliquen análisis de datos por parte de la organización y sus proveedores.
Cambios necesarios para los proveedores de tecnología eclesiástica
Deben considerarse algunas acciones inmediatas: En primer lugar, es necesaria una evaluación independiente de las prácticas actuales en relación con las normas internacionales aceptadas y emergentes sobre el uso ético de la IA. Esto podría hacerse a través de AITAC u organizaciones independientes similares. Proponemos un enfoque de consorcio, similar al del Consejo Evangélico para la Responsabilidad Financiera (ECFA, por sus siglas en inglés),5 como la mejor manera de maximizar la confianza y la aceptación y de avanzar con la velocidad y la potencia que requiere este mercado floreciente. En segundo lugar, es necesario revisar los planteamientos de consentimiento y transparencia para garantizar que sean completos y adecuados. En tercer lugar, los proveedores de tecnología deben evaluar las salvaguardias para poblaciones vulnerables y garantizar la recopilación, la seguridad y el uso adecuados de la información relacionada con la salud de acuerdo con las directrices de la ley federal estadounidense HIPAA y protecciones similares.
Los cambios en la gobernanza de los datos deben incluir la recopilación únicamente de los datos necesarios para los fines originales del sistema y la restricción de su uso a los fines explícitamente indicados para los que se haya dado el consentimiento.
Los cambios en la gobernanza de los datos deben incluir la recopilación únicamente de los datos necesarios para los fines originales del sistema y la restricción de su uso a los fines explícitamente indicados para los que se haya dado el consentimiento. Es esencial implantar la supervisión, por ejemplo, mediante consejos consultivos, y aumentar los derechos de los usuarios y el acceso a sus datos para revisarlos, corregirlos y eliminarlos.
Un camino a seguir equilibrado pero urgente
No estamos abogando por el rechazo de las herramientas de IA, la oposición al uso de la IA en la iglesia y sus ministerios, o normas onerosas; pero estamos abogando por la aplicación urgente de vallas de contención éticas con base bíblica adecuadas para guiar el uso responsable de estas herramientas altamente capaces. Todos necesitamos una mayor transparencia, rendición de cuentas y compromiso con la aplicación de normas y acreditaciones internacionales.
estamos abogando por la aplicación urgente de vallas de contención éticas con base bíblica adecuadas para guiar el uso responsable de estas herramientas altamente capaces.
No estamos abogando por el rechazo de las herramientas de IA, la oposición al uso de la IA en la iglesia y sus ministerios, o normas onerosas; pero estamos abogando por la aplicación urgente de vallas de contención éticas con base bíblica adecuadas para guiar el uso responsable de estas herramientas altamente capaces. Todos necesitamos una mayor transparencia, rendición de cuentas y compromiso con la aplicación de normas y acreditaciones internacionales.
El uso de la IA y la analítica ya está ampliamente presente en la iglesia. La pregunta es: ¿vamos a seguir utilizándolas de una manera que honre a Dios y sirva a las personas que Dios ha puesto a nuestro cuidado?
Sostenemos que no se trata de elegir entre una tecnología poderosa y una práctica ética; en cambio, buscamos demostrar un mejor camino a seguir que rechace esta elección innecesaria. A través de la colaboración, la certificación independiente y la rendición de cuentas continua, podemos tener una tecnología ministerial que no solo sea poderosa, sino que tenga principios y apoye los grandes fines del reino de Dios.
¡Ahora es el momento de actuar!
Notas
- For example, globenewswire.com/news-release/2025/08/13/3132640/0/en/Pushpay-Announces-its-Approach-to-Artificial-Intelligence-and-Unveils-AI-Fueled-Product-Enhancements-at-its-Customer-Connect-Event.html, thestudioc.org/analytics/, cdn.triumph.tech/resources/unlocking-ai-powered-insights-on-person-profiles-in-rockrms, and kingdommetrics.com/, and ministryai.ai/.
- AI, Ethics, and Trust: A Biblically-Grounded Christian Position
- standards.ieee.org/wp-content/uploads/import/documents/other/ead1e.pdf
- standards.ieee.org/industry-connections/activities/ieee-global-initiative/
- ecfa.org/