Un grupo global de expertos en IA y científicos de datos publicó un nuevo marco voluntario para el desarrollo seguro de productos de inteligencia artificial, contiene una lista de verificación de 84 preguntas para que los desarrolladores consideren al comienzo de un proyecto de IA, mismas que abarcan una amplia gama de cuestiones éticas, que incluyen sesgo, privacidad y transparencia.

El marco está diseñado para ayudar a los desarrolladores a crear productos de IA que sean seguros, responsables, beneficiosos para la sociedad y aunque no es vinculante por ley, se espera que anime a las empresas a desarrollar productos de IA de una manera más ética.

En general los comentarios de la comunidad de desarrollo son buenos pues se cree que es una herramienta valiosa para garantizar el desarrollo responsable de la IA, sin embargo, otros expertos han criticado el marco, argumentando que es demasiado vago y no va lo suficientemente lejos en el tratamiento de los desafíos éticos que plantea la IA.

En México, con el nivel de debate de nuestros legisladores, estamos lejos de que esto llegue a política pública, así que de nuevo la responsabilidad queda en manos de quienes tienen las herramientas de desarrollo y de quienes deciden sumarse a los miles de proyectos que han surgido.

Al menos es una señal de que la comunidad de IA es cada vez más consciente de los desafíos éticos que plantea la IA y se espera que el marco ayude a garantizar que la IA se desarrolle de una manera que beneficie a la sociedad en su conjunto.

Algunas de las preguntas clave que se plantean son: ¿Cómo se recopilarán y utilizarán los datos? ¿Cómo se evitará el sesgo en los modelos de IA? ¿Cómo se garantizará la privacidad de los usuarios? ¿Cómo se informará a los usuarios sobre cómo funciona la IA? ¿Cómo se responsabilizará a los desarrolladores de IA?

El marco es un paso importante en la dirección de un desarrollo de IA más ético, pero es importante recordar que no es una solución mágica ya que pensar en las implicaciones éticas es un buen principio pero no sustituye al juicio humano… ¡todavía!