Por Ingo Plöger, empresario brasileño, presidente de CEAL Conselho Empresarial da América Latina – Brasil
Con grandes tragedias vienen siempre el shock y la búsqueda de los responsables. A principios de 2019, Brasil enfrentó un desastre de orígenes más diversos. Brumadinho, una represa de retención, se derrumbó y causó cientos de muertes. Dos años antes, un desastre similar ocurrió en otra represa de la misma compañía. A fines de 2018, en la gran ciudad de São Paulo, un puente de 50 años cayó varios metros. La única razón por la que no causó muchas muertes fue porque ocurrió al amanecer. Un edificio, invadido por un movimiento social, se quemó, se derrumbó y causó decenas de muertes y lesionados. Un deslizamiento de tierra cubrió un autobús en Río de Janeiro y rompió un puente peatonal. Un centro de entrenamiento para jóvenes atletas del equipo de fútbol más grande de Río se incendió a media noche, causando muertes trágicas. Todo esto en cuestión de semanas. Al parecer, las causas son completamente diferentes y no están relacionadas. ¿Quién es responsable? El poder público que no tiene control, la organización que es negligente, el auditor que no realizó su trabajo correctamente, la sospecha de corrupción, mal uso de materiales, etc.
En este contexto, aparece una discusión sobre la inteligencia artificial y la ética. en el que transferiremos responsabilidades personales a la máquina, a través de un algoritmo programado. Este debate parece hilarante, si incluso en los problemas más simples no somos capaces de manejar nuestros problemas cotidianos, ¿deberíamos discutir la transferencia de responsabilidades a las máquinas? Sin embargo, en el fondo, no lo es.
Es vital que la revisión de lo que parece ser un derecho ciudadano tan simple; tener una tecnología aplicada que le brinde la tranquilidad de estar seguro, de repente ya no le da esa confianza. Todo es inseguro… Las dimensiones de seguridad aplicadas ya no sirven para garantizar la «sensación de seguridad». Es posible notar que las variables aplicadas hasta entonces ya no son confiables, ya que los efectos observados demuestran que estamos seguros. Además, La naturaleza, que nos presenta nuevos desafíos, como niveles de precipitación por encima de la media, temperaturas extremas, por no mencionar terremotos, tsunamis, tormentas de nieve y vientos devastadores. Sin embargo, las acciones del hombre y sus organizaciones son aún más impredecibles. Lo imponderable se vuelve cada vez más real… Se requieren nuevos protocolos, nuevos indicadores, nuevos procedimientos, nuevas formas de producir y controlar que puedan devolver a la población la sensación de que la tecnología aplicada es lo suficientemente segura en las áreas públicas. Que la cuestión de las nuevas tecnologías debe dar a la sociedad la sensación de que la seguridad aumenta con el poder de la tecnología y no al contrario. Si, en el caso de los asuntos públicos, La seguridad requerida se basa en el número de personas involucradas; en los asuntos privados, la demanda es para el mismo tipo de seguridad, ya sea un producto específico o una aplicación tecnológica. Los conceptos de «ingeniería a prueba de fallas y de vida segura» son conceptos bien conocidos en ingeniería. Además, es precisamente en este punto que el poder público ingresa para anticipar, prevenir y controlar, de modo que no se produzcan catástrofes anunciadas.
En varios países desarrollados, existen legislaciones nacionales que garantizan la seguridad tecnológica pública o privada por parte de instituciones que regulan las normas de los operadores. Sin embargo, estas instituciones ya se han dado cuenta de que sus estándares establecidos hace tiempo ya no tienen los protocolos más apropiados para garantizar los impactos de las tecnologías utilizadas. El hecho de que la Unión Europea creó una plataforma para el debate sobre ética e inteligencia artificial es precisamente debido a la preocupación de establecer nuevos patrones en el proceso de toma de decisiones (@FuturiumEU). Quieren anticipar el nivel de seguridad percibido en sus poblaciones en el uso de las nuevas tecnologías. En los Estados Unidos, en la década de 1970, una organización llamada OTA (Organización para la Evaluación de la Tecnología) vinculada al Congreso, fue responsable de analizar los impactos primarios y secundarios de las nuevas tecnologías, hasta el punto de vetar las posibilidades de construir aviones de pasajeros supersónicos por su impacto en la capa de ozono.
Las sociedades actualmente requieren una revisión de su «seguridad». En el campo de la tecnología, en el campo de las predicciones y los controles, se necesitan nuevas dimensiones para recuperar el «sentimiento de seguridad». En el idioma inglés hay una diferencia entre «seguridad y protección» (security and safety), mientras que en español, la palabra seguridad se utiliza para ambos. La seguridad (security) está más relacionada con la defensa nacional, contra la guerra, el terrorismo, los actos criminales, mientras que la seguridad (safety) se usa para la tecnología vinculada al estilo de vida. A medida que la tecnología evoluciona, las sociedades serán menos tolerantes a la incertidumbre predecible. Esta será la ambigüedad de los sentimientos de seguridad. Las tragedias anunciadas ya no serán sostenidas por la negligencia y la incompetencia. En medio de esto, la evolución tecnológica devastadora con nuevos materiales, tecnologías de procesos y procesos de toma de decisiones abrirá nuevos caminos.
Si no sabemos cómo cuidar lo básico, nos detendremos con anticipación y detendremos la innovación que puede protegernos de las tragedias anunciadas, utilizando criterios inadecuados para encontrar soluciones. El camino es asociar conocimiento, innovación e institucionalización. Procesos para que el «sentimiento de seguridad» vuelva al público con sus gobiernos, sus organizaciones, empresas y conductas personales. Una nueva lección que necesitamos aprender con urgencia juntos.