Inteligencia Artificial - Inteligencia Artificial y la ética involucrada

La inteligencia artificial está causando un revuelo increíble últimamente, se que hemos escuchado el termino varias veces a lo largo de nuestra vida, si bien es algo que lleva desarrollándose desde los años 50, es más que claro que este último año la gente no para de hablar de ello, creando expectativas, curiosidad y hasta un poco de miedo.

Esta última que mencioné, el miedo, es algo para debate. El miedo viene de este temor a lo desconocido que tenemos, gente creándose ideas equivocadas acerca del tema, ya que al estar causando del que hablar, esto incita e invita a gente a hacer contenido informativo acerca del caso, aunque no sean ni por ninguna extensión, expertos en el tema

Les voy a contar un poco acerca de un paper de Mark Latonero que leí recientemente, algo que me dejó pensando y que se me quedó grabado, y bien menciona como para que la Inteligencia Artificial funcione correctamente tiene que estar aportando algo al bien común, de no ser así por lo menos su diseño y ejecución no debería de dañar los valores fundamentales del ser humano.

Un concepto mal armado que tiene la gente de la Inteligencia Artificial es que se maneja por sí sola con opiniones totalmente imparciales y que siempre dirá la verdad, sin embargo eso es incorrecto, ya que detrás de la IA hay un grupo de humanos que la fueron creando y programando, y esta inteligencia está hecha para imitar comportamientos humanos, por lo que a veces la información que le puede llegar a ser sesgada.

Un ejemplo de cómo la Inteligencia Artificial puede perjudicar los valores es como a veces hacen programas que están intencionados con un buen propósito, pero la ejecución no es la mejor, un ejemplo es como a un programa de reconocimiento facial que tenía buen potencial le costaba identificar a gente con tonos de piel más oscuros, a fin de cuenta hay gente detrás de esta inteligencia artificial, ¿Cómo es que se realizan errores de esta magnitud?

Ahora, algo que también causa controversia es el, ¿qué tan ética es la IA?, creo que depende del desarrollador, y también una cuestión que menciona Latonero es que si los desarrolladores tratan la cuestión de la ética y privacidad como un derecho humano en vez de como una preferencia o un requisito, los estándares de la industria serían más fuertes.

Finalmente cabe mencionar que el cambio debe de venir también de fuerzas adicionales como son; los incentivos del mercado, la conciencia pública, el activismo local y la innovación constante de la tecnología que haría de este proceso algo más fácil.

Lectura de Mark Letonero "Upholding human rights & dignity"

Excelente reflexión, y el paper de Latonero es una referencia sólida precisamente porque pone el foco donde debe estar: en los valores humanos como condición de diseño, no como añadido posterior.

El ejemplo del reconocimiento facial con sesgos raciales que mencionas no es un accidente técnico, es una consecuencia directa de datasets no representativos y de equipos de desarrollo homogéneos que no cuestionaron sus propios puntos ciegos. Ahí está el núcleo del problema: la IA no es imparcial, refleja las decisiones —conscientes o no— de quienes la construyen.

Lo que sí ha cambiado recientemente, y creo que merece estar en este debate, es que por primera vez hay un marco legal que intenta traducir esos principios éticos en obligaciones concretas y sancionables. El Reglamento Europeo de Inteligencia Artificial establece exactamente eso: que ciertos sistemas de alto riesgo deben garantizar supervisión humana, calidad de datos y transparencia, o enfrentarse a multas de hasta el 7% de su facturación global. No es perfecto, y hay críticas legítimas sobre su complejidad para las PYMEs, pero es el primer intento serio de convertir la ética en ley vinculante.

El punto que planteas sobre los incentivos de mercado y el activismo es clave: la regulación sola no basta si no hay presión social y conciencia pública que la sostenga. Pero tampoco basta la buena voluntad individual sin un marco que exija responsabilidad. Necesitamos los dos.