Por Nicholas Carr
Un artículo publicado en 2012 advirtió que cuando los doctores pasan a depender de las pantallas y siguen las indicaciones de la computadora en lugar del “hilo narrativo del paciente”, su pensamiento corre el riesgo de volverse estrecho. Getty Images
Llegó la hora de la inteligencia artificial. Las computadoras de hoy son perceptivas y agudas. Pueden sentir el ambiente, resolver problemas, hacer juicios sutiles y aprender de los errores. No piensan igual que nosotros, pero pueden reproducir muchos de nuestros talentos intelectuales más preciados. Deslumbrados por nuestras máquinas, les hemos asignado todo tipo de labores sofisticadas que solíamos hacer.
Sin embargo, nuestra creciente dependencia de la automatización puede costar cara. La evidencia sugiere que nuestra inteligencia se marchita a medida que dependemos más de la inteligencia artificial. En lugar de elevarnos, el software inteligente parece embrutecernos.
Ha sido un proceso lento. La primera ola de automatización llegó a la industria estadounidense después de la Segunda Guerra Mundial, cuando los fabricantes comenzaron a instalar equipos controlados electrónicamente en sus plantas. Las máquinas aumentaron la eficiencia de las fábricas y la rentabilidad de las empresas. Fueron proclamadas como máquinas emancipadoras. Al liberar a los empleados de las tareas rutinarias, les darían trabajos más estimulantes y capacidades más valiosas.
En los años 50, el profesor James Bright de la Escuela de Negocios de la Universidad de Harvard estudió los efectos de la automatización en varias industrias. Descubrió que a menudo las nuevas máquinas dejaban a los trabajadores con tareas más monótonas y menos exigentes y concluyó que el efecto predominante de la automatización era la “descualificación” de los empleados. “Los equipos altamente complejos”, escribió en 1966, no necesitan operadores “cualificados”. La cualificación se puede incorporar en la máquina.
Seguimos aprendiendo esa lección a una escala mucho mayor. A medida que el software se ha vuelto más capaz de hacer análisis y tomar decisiones, la automatización ha saltado de las fábricas al trabajo intelectual. Las computadoras realizan la clase de trabajo intelectual que durante mucho tiempo fue considerado el dominio de profesionales bien educados y capacitados. Los pilotos usan computadoras para volar aviones; los doctores las consultan para diagnosticar enfermedades y los arquitectos recurren a ellas para diseñar edificios. La nueva ola de la automatización impacta a casi todos.
Las computadoras no están arrebatando todos los trabajos que solían hacer las personas talentosas, pero están cambiando la forma en que se trabaja. Una evidencia creciente apunta a que el efecto de descualificación que redujo las destrezas de los empleados fabriles el siglo pasado comienza a corroer las habilidades profesionales, incluso las altamente especializadas.
Basta con mirar al cielo. Desde su invención hace un siglo, el piloto automático ha ayudado a que viajar en avión sea una experiencia más segura y eficaz. No obstante, a los expertos les preocupa que al haber transferido tantas tareas a las computadoras, los pilotos estén perdiendo sus capacidades.
El investigador británico de aviación Matthew Ebbatson efectuó en 2007 un experimento con un grupo de pilotos. Los hizo realizar una maniobra difícil en un simulador de vuelo y evaluó indicadores sutiles de su habilidad. Cuando comparó los resultados del simulador con los antecedentes de vuelo de los participantes, halló una estrecha correlación entre la aptitud de los pilotos y la cantidad de tiempo que habían dedicado recientemente a volar en forma manual. Sin embargo, las computadoras ejecutan la mayoría de las operaciones de vuelo entre el despegue y el aterrizaje y los pilotos no practican sus habilidades.
Incluso un ligero declive en la capacidad manual de volar puede ocasionar una tragedia. Un piloto sin mucha práctica reciente es más propenso a cometer un error en una emergencia. Los errores de pilotos vinculados a la automatización se han visto implicados en varios desastres aéreos recientes.
Un informe divulgado del año pasado por la Administración Federal de Aviación de Estados Unidos (FAA, por sus siglas en inglés) documentó un creciente vínculo entre los accidentes aéreos y una excesiva dependencia de la automatización. La FAA está instando a las aerolíneas a que los pilotos dediquen más tiempo a volar a mano.
Luci Gutiérrez
Hace 10 años, un equipo de científicos de informática de la Universidad de Utrecht, en Holanda, hizo que un grupo de personas realizara tareas complejas de analítica y planificación utilizando un software rudimentario que no ofrecía ayuda o un software sofisticado que brindaba bastante asistencia. Encontraron que quienes emplearon el software más sencillo idearon mejores estrategias, cometieron menos errores y desarrollaron una mejor aptitud para el trabajo.
A pesar de todo, el ámbito de la automatización crece y crece. Los médicos usan programas de software para orientarse en los exámenes de sus pacientes. Los programas incorporan valiosas alertas y listas de verificación, pero vuelven la medicina más rutinaria y distancian a los doctores de sus pacientes.
Beth Lown, profesora de la Escuela de Medicina de la Universidad de Harvard, advirtió en un artículo publicado en 2012 junto con su alumno Dayron Rodríguez, que cuando los doctores pasan a depender de las pantallas y siguen las indicaciones de la computadora en lugar del “hilo narrativo del paciente”, su pensamiento corre el riesgo de volverse estrecho y, en el peor de los casos, pasar por alto importantes señales de diagnóstico.
El riesgo no es puramente teórico. En un estudio reciente publicado en la revista especializada Diagnosis, tres investigadores examinaron el diagnóstico erróneo de Thomas Eric Duncan, la primera persona en morir de ébola en EE.UU., en el Dallas Texas Health Presbyterian Hospital. Argumentan que los formularios digitales empleados por el personal del hospital para ingresar información de los pacientes probablemente contribuyeron a la equivocación. “Estas herramientas”, escribieron, “están optimizadas para captar datos, pero a expensas de sacrificar su utilidad para realizar diagnósticos apropiados, haciendo que los árboles no dejen ver el bosque”.
Incluso las profesiones creativas sufren los efectos de la descualificación. Los diseños asistidos por computadora han ayudado a los arquitectos a construir edificios con formas y materiales inusuales, pero cuando las computadoras se incorporan al proceso en forma prematura, pueden entorpecer la sensibilidad estética y las observaciones conceptuales provenientes del dibujo y la construcción de modelos.
Estudios psicológicos han hallado que el trabajo manual es más propicio para liberar la originalidad de los diseñadores, expandir su memoria a corto plazo y fortalecer su sentido táctil. Cuando el software toma el timón, las habilidades manuales decaen.
No nos tenemos que resignar a esta situación. La automatización no tiene que eliminar los retos de nuestro trabajo y reducir nuestras destrezas. Estas pérdidas provienen de lo que los ergónomos y otros académicos califican de “automatización tecnocéntrica”, una filosofía de diseño que ha pasado a dominar el pensamiento de los programadores y los ingenieros.
Cuando los diseñadores de sistemas comienzan un proyecto, consideran primero la capacidad de las computadoras con miras a delegar al software la mayor cantidad de trabajo posible. Al operador humano se le asigna lo que sobra, que normalmente consiste en tareas relativamente pasivas como ingresar datos, seguir directrices y monitorear pantallas.
Esta filosofía atrapa a las personas en un ciclo vicioso de descualificación. Al aislarlos del trabajo arduo, sus habilidades se degradan y aumentan las probabilidades de que se equivoquen. Cuando esos errores suceden, la respuesta de los diseñadores es imponer más restricciones, lo que conduce a una nueva ronda de descualificación.
Hay una alternativa. En la “automatización humanocéntrica”, los talentos de la gente tienen prioridad. Los sistemas están diseñados con el fin de mantener al operador humano en un proceso continuo de acción, retroalimentación y toma de decisiones.
En este modelo, el software juega un papel esencial pero secundario. Realiza las funciones rutinarias que el operador humano domina, alerta cuando surgen situaciones imprevistas, proporciona información nueva que expande la perspectiva del operador y contrarresta los sesgos que a menudo distorsionan el pensamiento humano. La tecnología se convierte en el compañero del experto, no en su sustituto.
Impulsar a la automatización en esta dirección no requiere ningún adelanto técnico, sino un cambio de prioridades y un enfoque renovado en las virtudes y defectos del ser humano.
Las aerolíneas, por ejemplo, podrían programar el software de la cabina de comando para que alternara el control entre la computadora y el piloto durante el vuelo. Al mantener al aviador alerta y activo, ese pequeño cambio podría hacer que volar sea más seguro. En la contabilidad, la medicina y otros rubros, el software podría ser mucho menos invasivo y darles a los profesionales margen de maniobra para ejercer su propio criterio antes de ofrecer sugerencias derivadas de los algoritmos.
Uno de los ejemplos más interesantes del método humanocéntrico es la automatización adaptiva. Usa sensores de punta y algoritmos interpretativos para monitorear los estados físicos y mentales de las personas y aprovecha la información para cambiar las tareas y responsabilidades entre el ser humano y la computadora.
Cuando el sistema identifica que un operador tiene problemas con una operación difícil, asigna más tareas a la computadora para librar al operador de distracciones. Cuando detecta que el interés del operador decae, aumenta la carga de trabajo de la persona para captar su atención y desarrollar sus habilidades.
Si dejamos que nuestras destrezas se desvanezcan al depender demasiado de la automatización, nos volveremos menos capaces, menos resistentes y más subordinados a nuestras máquinas. Crearemos un mundo más apto para los robots que para nosotros.
—Carr es autor de “The Glass Cage: Automation and Us”.
Un artículo publicado en 2012 advirtió que cuando los doctores pasan a depender de las pantallas y siguen las indicaciones de la computadora en lugar del “hilo narrativo del paciente”, su pensamiento corre el riesgo de volverse estrecho. Getty Images
Llegó la hora de la inteligencia artificial. Las computadoras de hoy son perceptivas y agudas. Pueden sentir el ambiente, resolver problemas, hacer juicios sutiles y aprender de los errores. No piensan igual que nosotros, pero pueden reproducir muchos de nuestros talentos intelectuales más preciados. Deslumbrados por nuestras máquinas, les hemos asignado todo tipo de labores sofisticadas que solíamos hacer.
Sin embargo, nuestra creciente dependencia de la automatización puede costar cara. La evidencia sugiere que nuestra inteligencia se marchita a medida que dependemos más de la inteligencia artificial. En lugar de elevarnos, el software inteligente parece embrutecernos.
Ha sido un proceso lento. La primera ola de automatización llegó a la industria estadounidense después de la Segunda Guerra Mundial, cuando los fabricantes comenzaron a instalar equipos controlados electrónicamente en sus plantas. Las máquinas aumentaron la eficiencia de las fábricas y la rentabilidad de las empresas. Fueron proclamadas como máquinas emancipadoras. Al liberar a los empleados de las tareas rutinarias, les darían trabajos más estimulantes y capacidades más valiosas.
En los años 50, el profesor James Bright de la Escuela de Negocios de la Universidad de Harvard estudió los efectos de la automatización en varias industrias. Descubrió que a menudo las nuevas máquinas dejaban a los trabajadores con tareas más monótonas y menos exigentes y concluyó que el efecto predominante de la automatización era la “descualificación” de los empleados. “Los equipos altamente complejos”, escribió en 1966, no necesitan operadores “cualificados”. La cualificación se puede incorporar en la máquina.
Seguimos aprendiendo esa lección a una escala mucho mayor. A medida que el software se ha vuelto más capaz de hacer análisis y tomar decisiones, la automatización ha saltado de las fábricas al trabajo intelectual. Las computadoras realizan la clase de trabajo intelectual que durante mucho tiempo fue considerado el dominio de profesionales bien educados y capacitados. Los pilotos usan computadoras para volar aviones; los doctores las consultan para diagnosticar enfermedades y los arquitectos recurren a ellas para diseñar edificios. La nueva ola de la automatización impacta a casi todos.
Las computadoras no están arrebatando todos los trabajos que solían hacer las personas talentosas, pero están cambiando la forma en que se trabaja. Una evidencia creciente apunta a que el efecto de descualificación que redujo las destrezas de los empleados fabriles el siglo pasado comienza a corroer las habilidades profesionales, incluso las altamente especializadas.
Basta con mirar al cielo. Desde su invención hace un siglo, el piloto automático ha ayudado a que viajar en avión sea una experiencia más segura y eficaz. No obstante, a los expertos les preocupa que al haber transferido tantas tareas a las computadoras, los pilotos estén perdiendo sus capacidades.
El investigador británico de aviación Matthew Ebbatson efectuó en 2007 un experimento con un grupo de pilotos. Los hizo realizar una maniobra difícil en un simulador de vuelo y evaluó indicadores sutiles de su habilidad. Cuando comparó los resultados del simulador con los antecedentes de vuelo de los participantes, halló una estrecha correlación entre la aptitud de los pilotos y la cantidad de tiempo que habían dedicado recientemente a volar en forma manual. Sin embargo, las computadoras ejecutan la mayoría de las operaciones de vuelo entre el despegue y el aterrizaje y los pilotos no practican sus habilidades.
Incluso un ligero declive en la capacidad manual de volar puede ocasionar una tragedia. Un piloto sin mucha práctica reciente es más propenso a cometer un error en una emergencia. Los errores de pilotos vinculados a la automatización se han visto implicados en varios desastres aéreos recientes.
Un informe divulgado del año pasado por la Administración Federal de Aviación de Estados Unidos (FAA, por sus siglas en inglés) documentó un creciente vínculo entre los accidentes aéreos y una excesiva dependencia de la automatización. La FAA está instando a las aerolíneas a que los pilotos dediquen más tiempo a volar a mano.
Luci Gutiérrez
Hace 10 años, un equipo de científicos de informática de la Universidad de Utrecht, en Holanda, hizo que un grupo de personas realizara tareas complejas de analítica y planificación utilizando un software rudimentario que no ofrecía ayuda o un software sofisticado que brindaba bastante asistencia. Encontraron que quienes emplearon el software más sencillo idearon mejores estrategias, cometieron menos errores y desarrollaron una mejor aptitud para el trabajo.
A pesar de todo, el ámbito de la automatización crece y crece. Los médicos usan programas de software para orientarse en los exámenes de sus pacientes. Los programas incorporan valiosas alertas y listas de verificación, pero vuelven la medicina más rutinaria y distancian a los doctores de sus pacientes.
Beth Lown, profesora de la Escuela de Medicina de la Universidad de Harvard, advirtió en un artículo publicado en 2012 junto con su alumno Dayron Rodríguez, que cuando los doctores pasan a depender de las pantallas y siguen las indicaciones de la computadora en lugar del “hilo narrativo del paciente”, su pensamiento corre el riesgo de volverse estrecho y, en el peor de los casos, pasar por alto importantes señales de diagnóstico.
El riesgo no es puramente teórico. En un estudio reciente publicado en la revista especializada Diagnosis, tres investigadores examinaron el diagnóstico erróneo de Thomas Eric Duncan, la primera persona en morir de ébola en EE.UU., en el Dallas Texas Health Presbyterian Hospital. Argumentan que los formularios digitales empleados por el personal del hospital para ingresar información de los pacientes probablemente contribuyeron a la equivocación. “Estas herramientas”, escribieron, “están optimizadas para captar datos, pero a expensas de sacrificar su utilidad para realizar diagnósticos apropiados, haciendo que los árboles no dejen ver el bosque”.
Incluso las profesiones creativas sufren los efectos de la descualificación. Los diseños asistidos por computadora han ayudado a los arquitectos a construir edificios con formas y materiales inusuales, pero cuando las computadoras se incorporan al proceso en forma prematura, pueden entorpecer la sensibilidad estética y las observaciones conceptuales provenientes del dibujo y la construcción de modelos.
Estudios psicológicos han hallado que el trabajo manual es más propicio para liberar la originalidad de los diseñadores, expandir su memoria a corto plazo y fortalecer su sentido táctil. Cuando el software toma el timón, las habilidades manuales decaen.
No nos tenemos que resignar a esta situación. La automatización no tiene que eliminar los retos de nuestro trabajo y reducir nuestras destrezas. Estas pérdidas provienen de lo que los ergónomos y otros académicos califican de “automatización tecnocéntrica”, una filosofía de diseño que ha pasado a dominar el pensamiento de los programadores y los ingenieros.
Cuando los diseñadores de sistemas comienzan un proyecto, consideran primero la capacidad de las computadoras con miras a delegar al software la mayor cantidad de trabajo posible. Al operador humano se le asigna lo que sobra, que normalmente consiste en tareas relativamente pasivas como ingresar datos, seguir directrices y monitorear pantallas.
Esta filosofía atrapa a las personas en un ciclo vicioso de descualificación. Al aislarlos del trabajo arduo, sus habilidades se degradan y aumentan las probabilidades de que se equivoquen. Cuando esos errores suceden, la respuesta de los diseñadores es imponer más restricciones, lo que conduce a una nueva ronda de descualificación.
Hay una alternativa. En la “automatización humanocéntrica”, los talentos de la gente tienen prioridad. Los sistemas están diseñados con el fin de mantener al operador humano en un proceso continuo de acción, retroalimentación y toma de decisiones.
En este modelo, el software juega un papel esencial pero secundario. Realiza las funciones rutinarias que el operador humano domina, alerta cuando surgen situaciones imprevistas, proporciona información nueva que expande la perspectiva del operador y contrarresta los sesgos que a menudo distorsionan el pensamiento humano. La tecnología se convierte en el compañero del experto, no en su sustituto.
Impulsar a la automatización en esta dirección no requiere ningún adelanto técnico, sino un cambio de prioridades y un enfoque renovado en las virtudes y defectos del ser humano.
Las aerolíneas, por ejemplo, podrían programar el software de la cabina de comando para que alternara el control entre la computadora y el piloto durante el vuelo. Al mantener al aviador alerta y activo, ese pequeño cambio podría hacer que volar sea más seguro. En la contabilidad, la medicina y otros rubros, el software podría ser mucho menos invasivo y darles a los profesionales margen de maniobra para ejercer su propio criterio antes de ofrecer sugerencias derivadas de los algoritmos.
Uno de los ejemplos más interesantes del método humanocéntrico es la automatización adaptiva. Usa sensores de punta y algoritmos interpretativos para monitorear los estados físicos y mentales de las personas y aprovecha la información para cambiar las tareas y responsabilidades entre el ser humano y la computadora.
Cuando el sistema identifica que un operador tiene problemas con una operación difícil, asigna más tareas a la computadora para librar al operador de distracciones. Cuando detecta que el interés del operador decae, aumenta la carga de trabajo de la persona para captar su atención y desarrollar sus habilidades.
Si dejamos que nuestras destrezas se desvanezcan al depender demasiado de la automatización, nos volveremos menos capaces, menos resistentes y más subordinados a nuestras máquinas. Crearemos un mundo más apto para los robots que para nosotros.
—Carr es autor de “The Glass Cage: Automation and Us”.
No hay comentarios:
Publicar un comentario
Gracias por opinar