El uso de la inteligencia artificial en el manejo de información, así como la toma de decisiones en la gestión empresarial y comercial es cada vez más evidente y de mayor alcance, la cual, en efecto, ha demostrado tener niveles de eficacia y eficiencia superiores a los que el esfuerzo y las acciones humanas pueden lograr.
Por: Dr. Juan Diego Sánchez Sánchez, Ph.D
Asesor y analista financiero, abogado, profesor e investigador
(M&T)-. Precisando estos resultados gracias a la alimentación y el análisis de datos del entorno que nutren los algoritmos inteligentes, entendiendo este principio como el oráculo, lo que refiere al contenido y las fuentes de incidencia en la inteligencia misma.
Si bien es cierto, el funcionamiento de la inteligencia artificial en la gestión empresarial es necesario y sumamente potente, siguen existiendo aún algunos puntos de mejora, y que de no ser abordados de forma diligente, pudiesen ocasionar daños o perjuicios, tanto a los usuarios mismos y tomadores de decisiones, así como a terceros que pueden verse afectados por alguna decisión o puntualización específica dada por un sistema de esta índole, señalando la necesidad de una correcta depuración de los contenidos evaluativos de previo a la aplicación y utilización de diseños de algoritmos inteligentes.
Derivado directamente de lo anterior, surge el concepto del sesgo esencial discriminatorio de la inteligencia artificial, el cual, aunque en su nombre pareciera tener una connotación lesiva y volitiva de actuación, en realidad no responde a una intencionalidad, sino a una estructuración social propia del entorno laboral y mercantil, es decir, recae sobre la calidad de la información sobre la cual el sistema inteligente se alimenta para la gestión y el procesamiento de lo requerido, así como para la toma de decisiones.
Para estos efectos, es necesario hacer referencia al sesgo discriminatorio en función del ordenamiento y estructura misma de la data determinativa del perfilamiento social, conductual y personal de los individuos, es decir, del agrupamiento promedio de las observaciones cuantitativas y cualitativas hacia un grupo en particular.
Ahora bien, en aras de una mejor comprensión del concepto anterior, debe hacerse mención al tipo de aplicaciones sobre las cuales puede acontecer, siendo usualmente su aplicación dada para la perfilación y la selección de personal para una determinada posición o actividad empresarial, esto pues, al estar la inteligencia artificial estructurada en función de una algoritmo específico, refiere al seguimiento estricto de una instrucción previamente planteada, sobre la cual el sistema busca una mejor y más eficiente forma de obtener el resultado, siendo así que al ser la instrucción la búsqueda de un candidato de mayor idoneidad, la inteligencia procede a buscar aquellos con mayor incidencia de resultados en la sociedad.
El punto anterior es observable en el ejemplo específico de la selección de un determinado candidato para un puesto laboral profesional, indiferentemente de la profesión y las funciones, donde el algoritmo determinado procede a realizar una búsqueda estructural de los requisitos de la posición, precisando a la vez un análisis cruzado para con los candidatos existentes, procedimiento que denota una lógica funcional clara, no obstante, el sesgo se genera al precisar el sistema inteligente una ponderación para con los datos generales del mercado laboral en general en posiciones similares, las cuales presentan datos agrupados a ciertos grupos específicos.
Destacan entre las variables de discriminación por conglomerados de datos aspectos como la raza, el sexo, la edad, el lugar de residencia, el estado civil, o bien, otras un poco más etéreas como la universidad de procedencia, los años de curso de la carrera, antecedentes judiciales, e incluso puntos sensibles como el tipo de sangre, condición de salud, determinadas creencias ontológicas, espirituales, políticas. y otras, pudiendo determinarse así el uso de datos sensibles y de extrema afectación en la esfera privada de la persona y su vida.
Al realizar este análisis cruzado y ponderado, evidentemente el sistema inteligente encuentra en los datos sociales y de mercado una distribución mayor hacia ciertos contornos específicos, creando un falso perfil ideal que no necesariamente es el más idóneo, esto pues, el mismo conglomerado de información coligada al mercado en general tiende a presentar los bosquejos mayoritarios existentes, pero no precisamente los más eficientes, implicando así que la decisión final presentada por la inteligencia artificial se encuentra sesgada por un aspecto de perfilación social mayoritaria, más no por una idoneidad absoluta, implicando una debilidad latente, no tanto en la tecnología, sino más bien en el sistema social de información.
Cabe indicar que, al menos con base en la normativa internacional, una de las áreas donde aún se considera improcedente el uso de la inteligencia artificial, es precisamente la perfilación social, más aún para efectos de determinar una particular idoneidad para la escogencia de una persona, no obstante, esto no implica que su uso no sea una realidad en la práctica, planteando así un dilema moral sobre su procedencia, esto al menos hasta que los datos globales logren agruparse de una manera que denoten una idoneidad de contenido y no una ideológica social.
Comments