Con el avance de la tecnología, sobre todo en estos últimos años, existe un pensamiento recurrente en la conciencia colectiva en donde se le asigna a la máquina la idea de tener pensamientos propios. Cuando escuchamos “se cayó el sistema”, o la IA nos da una explicación incorrecta, instantáneamente nos surge el pensamiento de que la tecnología se equivocó. No es raro ver cómo un sujeto, alterado por su mal funcionamiento, golpea la máquina en la creencia de que solucionará el problema otorgándole a la misma una vida propia que no tiene. También, cuántas veces nos escuchamos diciendo “está pensando” al ver girar el ícono de espera al pasar de un evento a otro. Pero la realidad es que las máquinas no piensan ni tienen intención.
Los sistemas digitales, aun los más sofisticados y autónomos, no operan de manera aislada. Su accionar es el producto de una avanzada configuración, de una lógica y un ordenamiento condicionados por su creador. El error tecnológico es, en última instancia, una extensión de la imperfección humana, creadora de todo código y algoritmo.
La creencia de que la máquina es independiente
La asignación de tareas complejas a la computadora, y sobre todo cuando la tecnología nos supera, fomenta la idea de que la máquina tiene vida propia. Vemos muchas veces que diagnostica con gran capacidad reflexiva y nos induce a pensar que tiene conciencia. En verdad, la máquina sólo procesa datos, datos y algoritmos que han sido incorporados matemáticamente por el programador, datos que muchas veces tienen sesgos incorporados en el “entrenamiento” que suele realizarse en ellas. La máquina no tiene opinión, no tiene prejuicios, no tiene sentimientos.
Creadores falibles
El problema de fondo se asienta en la codificación de la lógica humana, los errores o recortes en los datos y errores de variables se verán reflejados automáticamente por el sistema. Estos no no están en el corazón de su capacidad operativa sino en construcción de las directivas iniciales dadas por el operador.
Esta puesta en escena nos dirige hacia el concepto de responsabilidad frente a la programación. Sería demasiado fácil echarles la culpa a las pantallas o al procesador. Se hace imprescindible la revisión de los procesos en el diseño, prever las cuestiones éticas muchas veces olvidadas, la construcción de algoritmos, etc. La máquina es esclava de su configuración
Patrimonio exclusivo
El hecho de que la tecnología no tiene voluntad propia no le resta valor, puede procesar datos de manera impensada para el cerebro humano. Pero el foco siempre debe estar dirigido hacia el factor humano; la capacidad valorativa, el sentido común y la empatía siempre son patrimonio exclusivo de las personas.
Para contrarrestar la falibilidad tecnológica, el camino no es desconfiar de las máquinas, sino volvernos más rigurosos con nosotros mismos. Esto implica:
- Supervisión crítica constante: No asumir un resultado como una verdad absoluta solo porque lo emite una pantalla.
- Diversidad en el diseño: Involucrar a equipos humanos heterogéneos en la configuración de los sistemas para evitar sesgos de origen.
- Ética en la carga de datos: Ser conscientes de que lo que le enseñamos hoy a la tecnología determinará cómo responderá mañana.
En definitiva, la tecnología siempre hará exactamente aquello para lo que fue configurada. Si queremos sistemas más precisos, más justos y menos falibles, el esfuerzo no debe centrarse únicamente en mejorar los procesadores, sino en refinar el pensamiento de quienes sostienen el teclado.