Ética y tecnologías disruptivas

El panorama tecnológico actual enfrenta desafíos éticos inéditos sobre cuestiones de privacidad, equidad, transparencia y responsabilidad. Efectivamente, tecnologías avanzadas, como inteligencia artificial (IA), aprendizaje automático, los sistemas inteligentes, el cifrado, el seguimiento y el reconocimiento facial, están cada vez más en el centro de debates políticos, académicos y del público en general, en un entorno inconsistentemente regulado que crea importantes riesgos sociales. La propia industria si no adopta rápidamente una marco legal y ético viable y confiable rápidamente se verá atrapada en un atolladero de leyes inconsistentes e incluso contradictorias.

Ante esta situación el Instituto de Tecnología, Ética y Cultura (ITEC), ubicado en Santa Clara University, California, en colaboración con el Dicasterio para la Cultura y la Educación de la Santa Sede han dado a conocer Ethics in the Age of Disruptive Technologies: An Operational Roadmap (Etica en la era de las tecnologías disruptivas: un mapa de ruta operativo) en que se convoca a empresas, sociedad civil, academia y gobiernos a promover una reflexión profunda sobre el impacto de la tecnología en la humanidad.

Desde hace décadas Santa Clara University –perteneciente a la Compañía de Jesús– es reconocida por su colaboración con empresas como Salesforce, IBM y Microsoft para aplicar estándares éticos en el diseño, desarrollo e implementación de tecnología. El objetivo de la reciente publicación, a modo de manual, no es está guiada sólo por una preocupación intrínseca por actuar éticamente, sino también por el deseo de evitar daños a la reputación de las empresas y atraer a los mejores talentos comprometidos éticamente. 

El manual del ITEC considera que la industria para evitar impactos negativos de las tecnologías, como discriminación, desinformación, amenazas a la seguridad humana y amenazas a la privacidad, requiere un marco coherente y procedimientos auditables, para implementar efectivamente estándares éticos que funcionen durante el ciclo de vida de un sistema.

El desafío al que se enfrentan las empresas a la hora de dar primacía a las cuestiones éticas se ve agravado por el criterio de maximizar la rentabilidad o la “primacía de los accionistas”. No obstante, en los últimos años –afirma el documento del ITEC– ha habido algunas modificaciones al modelo de primacía de los accionistas y se están desarrollando nuevas estructuras y modelos corporativos que incluyen una mayor atención a cuestiones ambientales, sociales y de gobernanza en los consejos de administración.

Por lo tanto, un desafío crítico que enfrentan los líderes empresariales en el nuevo mundo de la IA y las tecnologías avanzadas es cómo gestionar el negocio dentro del modelo de primacía del accionista y al mismo tiempo lograr los conceptos más amplios de comportamiento ético vistos por las partes interesadas internas y externas, a través de métricas y procesos auditables. Esa necesidad es la que busca cubrir el Manual del ITEC.

El desafío de la gestión
El ITEC considera que adoptar, aplicar y demostrar la eficacia de usos éticos las organizaciones deben: 
• Comprender los requisitos éticos de sus clientes internos y externos: accionistas, gobiernos, formuladores de políticas, sociedad civil, académicos y empleados.
• Transformar su propia cultura empresarial para garantizar que todos conozcan las consecuencias de la tecnología de la empresa y la responsabilidad por su impacto sobre la humanidad y el planeta.
• Implementar un sistema de gestión de tecnología responsable, que se enfoque en cumplir
requisitos del cliente y valores éticos de las partes interesadas durante todo el ciclo de vida de los productos y servicios ofrecidos.

En ese sentido, el Manual ITEC es una guía práctica personalizable para ayudar a las organizaciones a transformar sus mentalidad y cultura, y poner en práctica principios de uso ético y humano para construir valor para el accionista y demás parte interesada. Estos pasos ayudan a garantizar que los productos y servicios promuevan una vida saludable y sostenible en el planeta, cumpliendo con la normativa aplicable y logrando la mejora continua de su desempeño ético.

El manual proporciona una hoja de ruta de operacionalización a través de la adopción de un marco de gobernanza de la ética tecnológica y su implementación en un Sistema de Gestión de Tecnología Responsable (RTMS, por sus siglas en inglés).

Eloy Mealla
Seminario Permanente Pedagogía Ignaciana
Vicerrectorado de Formación