Michael Decker: “Falta reflexión sobre cómo se desarrolla tecnología”

El especialista en evaluación de tecnología del Instituto Tecnológico de Karlsruhe habló con TSS sobre la necesidad de analizar el impacto de las innovaciones en áreas como robótica e inteligencia artificial y sobre cómo lograr influencia en la discusión política.

 
__

Agencia TSS – “Llegamos al punto en que creamos tantos problemas con las nuevas tecnologías como los que pretendemos solucionar con ellas”, dice Michael Decker, director de la División II del Instituto Tecnológico de Karlsruhe (KIT) de Alemania y especialista en evaluación de tecnología. Decker visitó la Argentina junto con otros especialistas del Instituto de Evaluación de Tecnología y Análisis de Sistemas (ITAS) del KIT y expuso algunas de sus ideas en el taller “Evaluación tecnológica, asesoramiento sobre políticas e innovación responsable”, organizado en el Campus Miguelete por la Universidad Nacional de San Martín (UNSAM), en el marco de la creación del Programa de Política y Prospección Tecnológica.

El ITAS investiga sobre desarrollos científicos y tecnológicos con foco en su impacto en la sociedad y con el fin de asesorar para la toma de decisiones en ámbitos de gestión de la tecnología y políticas tecnológicas e industriales. Además, tiene a su cargo la oficina de evaluación tecnológica del Bundestag (el Parlamento alemán) desde los años 90. Decker —físico y doctor en Ciencias Naturales por la Universidad de Heidelberg— fue su director hasta que asumió, en octubre pasado, como responsable de la División II, la más heterogénea de las cinco unidades académicas del KIT, una institución de educación superior inspirada en el estadounidense MIT (Instituto de Tecnología de Massachusets) y nacida de la fusión, en 2009, de la Universidad de Karlsruhe y del Centro de Investigación de Karlsruhe. En 2014, el KIT tuvo un presupuesto de 852 millones de euros y recibió a más de 25.000 estudiantes.

“El proyecto que presentamos tiene su centro en cómo diseñar políticas públicas en relación con el riesgo tecnológico, en cómo lidiar directamente con los tecnólogos, inclusive durante el proceso de desarrollo, para influenciarlos con investigación adicional, porque falta reflexión sobre el desarrollo de tecnología. Esto redunda en una mejor innovación, al menos desde nuestro punto de vista, y es lo que se está empezando a llamar ‘innovación responsable’. Se trata de un proceso de innovación que, desde el principio, requiere el involucramiento de todos los actores relacionados, desde los hacedores de políticas hasta los usuarios, para evitar un criterio que solo provenga del desarrollo tecnológico. El objetivo es evitar consecuencias imprevistas cuando la innovación ya está en el mercado”, asegura Decker.

¿Cómo se conectan la evaluación de la tecnología con la innovación responsable? ¿Es una nueva forma de hablar de lo mismo?

La evaluación de tecnología es una buena parte de la innovación responsable. En efecto, algunos dicen que se necesita una palabra nueva cada tanto si uno quiere mantenerse relevante en algún campo. En ese sentido, podría decirse que es como una nueva marca, pero, a la vez, es una forma de poner la cuestión ética un poco más arriba en el diseño de la tecnología y de influir sobre él. Pienso, por ejemplo, en la ingeniería genética, en la que estamos alcanzando niveles de avance que nos obligan a reflexionar dos veces antes de que una tecnología esté disponible.

“En Alemania la tragedia de Fukushima cambió todo y se decidió una transición a una matriz 100 % basada en energías
renovables”, dice Decker.

El ITAS está a cargo de la oficina de evaluación tecnológica del Parlamento alemán desde los años 90. ¿Cómo funciona?

El ITAS actúa como un consejero en el diseño de políticas a través de la oficina en Berlín. Es un proceso muy reglado. Una vez que un caso es tomado por un parlamentario, el tema debe incorporarse al debate. Se trabaja con un panel de 20 parlamentarios de distintos partidos y tenemos una respuesta escrita sobre los estudios que hacemos, además de que se realiza una presentación formal en el Parlamento sobre los resultados de los estudios. Eso marca una diferencia respecto de muchos colegas europeos que nos dicen que no saben qué pasa con los estudios que hacen, que en ocasiones se mantienen secretos o finalmente no forman parte de la agenda de discusión parlamentaria. En cuanto a la responsabilidad del ITAS, es una representación que se renueva cada cinco años, cuando otros institutos alemanes tienen la posibilidad de postularse. Hasta ahora, hemos ganado, pero uno nunca puede estar seguro porque obviamente también juega la política en estas decisiones. Hasta ahora ha funcionado bien y creo que ayuda el hecho de que el ITAS sea una gran institución con más de 100 investigadores que cubren una gran variedad de temas.

¿Nota una mayor preocupación de los políticos por estos temas?

Diría que no. Lo que sí ha pasado es que los temas han cambiado. Han pasado cinco años en los que las tecnologías de informática y comunicaciones han dominado las discusiones. Ahora estamos discutiendo más sobre smart grids (redes inteligentes de energía), inteligencia artificial, industria 4.0, robótica y vehículos autónomos. También sobre energía nuclear, ya que en Alemania la tragedia de Fukushima cambió todo, y se decidió una transición a una matriz 100 % basada en energías renovables, pero en este proceso todavía hay muchas preguntas pendientes de respuesta, desde qué hacer con las plantas y los residuos nucleares hasta dónde instalar todos estos nuevos molinos de viento y por dónde pasarán las líneas de alta tensión. Son todas cosas que requieren un gran debate público que está en pleno proceso, pero que no es fácil de organizar y llevar a cabo.

La Argentina no tiene una oficina de evaluación tecnológica que asesore a los legisladores. ¿Considera que todos los países deberían tenerla?

Hay un debate en Europa sobre esto, pese a que la mayoría tiene una oficina de este tipo. Hay diversos diseños institucionales y metodologías de trabajo según cada país. Siempre hay posibilidades de instalar este tipo de ámbitos de reflexión, y no es sorprendente que las universidades suelan ser los primeros adoptantes, porque son lugares con una cierta libertad intelectual para albergar estos espacios. Estamos involucrados en varios proyectos de este tipo en países como China, Japón, India y Rusia. Todos son muy distintos y cada uno está empezando a analizar cuál es la mejor forma de llevarlo a cabo. En Rusia, por ejemplo, están involucradas varias universidades y la Academia Nacional de Ciencias. En China, en cambio, es el Ministerio de Ciencia y Tecnología el que lo lleva adelante.

Pero un ministerio de ciencia y tecnología impulsa políticas en el área. ¿No debería estar en un lugar más neutral?

Es cierto, por eso discutimos siempre sobre cuál es la distancia adecuada para hacer este tipo de investigación. Pero, en cuanto al impacto de nuestro trabajo, está directamente relacionado con cuán cerca uno esté de la discusión política. En Alemania, los parlamentarios quieren tener un poco de distancia de la oficina, pero en Francia los mismos legisladores se involucran en los estudios. Eso significa dos cosas: que la influencia científica en los resultados es menor y que la política tiene más peso. Entonces, el resultado termina siendo una especie de híbrido de ciencia y política, con un alto potencial de impacto. Y después están los que buscan acercarse a los políticos para intentar influenciar el debate público, que es lo que sucede en Holanda. Antes que nada, hay que entender cómo funcionan las cosas en cada país. Si yo trato de transferir algo a la Argentina solo porque funciona en Alemania, lo más probable es que no funcione.

“Si yo trato de transferir algo a la Argentina solo porque funciona en Alemania, lo más probable es que no funcione”, dice
el especialista del KIT.

Regular la tecnología

Usted dejó la dirección del ITAS para asumir a cargo de la División II del KIT, que se caracteriza por su heterogeneidad, ya que reúne a institutos de informática, economía, administración y ciencias sociales. ¿Intentan hacer trabajar a todas estas disciplinas en conjunto?

Por supuesto, y es lo mismo que necesitamos para hacer evaluación de tecnología porque debemos analizarla a través de la economía, estudios de riesgo, teorías de la innovación y regulaciones. Muchas veces es necesario modificar regulaciones para que una tecnología se inserte de manera sustentable en el mercado, por ejemplo, que no queremos permitir iluminación doméstica superior a 100 watts. O se puede objetar la forma en que se desarrolla una tecnología por la incertidumbre sobre sus riesgos. Por ejemplo, en 1999, empezamos a analizar la nanotecnología, específicamente, la toxicidad que pueden tener algunas nanopartículas, y fue un gran debate que involucró mucho a la industria y en el que hubo gran inversión en estudios sobre nanopartículas. Era muy pronto, la sociedad no tenía la menor idea de qué era la nanotecnología. Si nos guiábamos solo por algunos estudios de laboratorio sin suficiente evidencia, podíamos creer que era algo totalmente inocuo. Pero los materiales se comportan distinto en la escala nanométrica. Eso significa que las regulaciones que teníamos, por ejemplo, para el uso del oro, debían ser revisadas a la hora de hablar de nanopartículas de oro porque, en ese estado, cambian sus propiedades. Y lo que hicimos fue involucrar a muchos actores en la discusión, más allá de los científicos, porque el mundo real no es el laboratorio. Por eso, sostenemos que, mientras se desarrolla una tecnología, se debe reflexionar sobre lo que implica para la sociedad. Eso, de alguna manera, también facilita la transferencia porque hay muchas cosas que pueden ser resueltas durante el proceso de innovación.

Si hablamos de transferencia de conocimiento a la industria, Alemania es visto como un país que logró resolver esa problemática. ¿Lo perciben así?

La sensación en Alemania es que todavía no lo estamos haciendo del todo bien y que podríamos hacerlo mejor. Pero, al mismo tiempo, considero que tenemos una estructura de pequeñas, medianas y grandes empresas muy interesante, muchas de ellas jugadores globales, muy vinculadas y cercanas entre ellas. Una particularidad de Alemania es el posicionamiento de empresas de mediano tamaño como líderes a nivel global, pero en un nicho pequeño y muy específico. Lo que hacemos desde la Universidad es fomentar que nuestros estudiantes generen proyectos de tecnología y que armen grupos interdisciplinarios, y buscamos vincularlos con inversionistas de riesgo. En el KIT tenemos un edificio específico para que se junten y den los primeros pasos, para que intercambien experiencias y que lo que hacen tenga visibilidad.

Actualmente, en la Argentina se está discutiendo la implementación del voto electrónico, que en Alemania fue declarado inconstitucional. ¿Por qué se lo descartó?

En Alemania hubo pruebas, pero finalmente se decidió no adoptarlo. Garantizar un sistema confiable exige demasiados esfuerzos técnicos y se consideró que no es una tecnología transparente para el ciudadano.

“Las empresas se han vuelto un poco más permeables a esta mirada interdisciplinaria sobre el desarrollo de la robótica
y sobre cómo afecta a nuestra sociedad”, dice Decker.

Robots y dilemas morales

Una de sus áreas de investigación se relaciona con las implicancias que tiene el avance de la robótica y con cómo la automatización impacta en la fuerza de trabajo. Un estudio reciente estimó que, en la Argentina, el 65 % de la fuerza laboral podría ser automatizada. ¿Cómo se lidia con esto?

El problema no está solo en los robots, sino que puede ser solo un software. Todos los sistemas de decisión autónoma generan muchas preguntas. ¿Queremos estar rodeados por software que decida por nosotros? Es una pregunta que hay que hacerse. Si miramos el mercado laboral y vemos todo lo que se está reemplazando o puede ser reemplazado en el futuro, el panorama es inquietante. Además del reemplazo, se dan movimientos hacia arriba y hacia abajo: algunos procesos reducen las calificaciones del trabajador al compartir tareas y convertirse en un asistente de la automatización que realiza el robot. En otros casos, se aumenta la calificación, al convertirlo en supervisor y responsable de las tareas del robot. Hay sectores en los que la incorporación de robots no impactó en el nivel de empleo, como la industia automotriz en Alemania. Pero, en otros, como el de electrónica en radio y televisión, lo que pasó es que las fábricas se fueron a países con sueldos más bajos en lugar de automatizar. Ahí, entonces, los puestos se redujeron a cero. En sectores como salud y energía, todavía no sabemos muy bien qué va a pasar. Ahora se habla mucho sobre los vehículos autónomos. Si alguien cruza indebidamente por la calle, ¿el sistema debe proteger al peatón o al dueño del auto? ¿Cómo minimiza los daños? Hay decisiones morales que tendrá que tomar un sistema programado previamente y es algo que tendremos que resolver.

En Alemania, tienen grandes empresas que se dedican a la robótica, como Siemens y Kuka. ¿Se involucran en estas discusiones o simplemente desarrollan tecnología?

Se interesan cada vez más, pero no por una preocupación previa sino posterior, cuando se dan cuenta que sus sistemas no funcionan en algunos aspectos. Se han vuelto un poco más permeables a esta mirada interdisciplinaria sobre el desarrollo de la robótica y sobre cómo afecta a nuestra sociedad. Hay preguntas todavía sin respuesta: si trabajaremos menos horas en el futuro, si tendremos que enfrentar una crisis de desempleo o cómo será la interacción con los robots humanoides.

En el Parlamento europeo hay un borrador de ley que le otorgaría a los robots la entidad de personas electrónicas…

Sí, en algún momento habrá que discutirlo. Lo que sí está claro es que el efecto que genera un robot humanoide es muy distinto al de un brazo mecánico. Estamos hablando de otra cosa, porque se genera una relación diferente en la interacción con el ser humano y es algo que todavía necesita ser estudiado para tener una dimensión del impacto en la sociedad.