Escribe Paula Goldman, Director de uso ético y humano de Salesforce
Este artículo forma parte de la Cumbre Global de Gobernanza Tecnológica. Fuente: World Economic Forum (WEF).
- El caos causado por la pandemia ha puesto de relieve la necesidad de sistemas más resistentes.
- La tecnología utilizada de manera responsable puede ser una herramienta eficaz para el cambio social.
- Esto es lo que hemos aprendido al aplicar nuestros principios de uso ético a situaciones de respuesta a una pandemia.
2020 sacudió nuestro mundo de maneras inimaginables, obligándonos a enfrentar múltiples emergencias que se cruzan: crisis de salud pública, económicas y de justicia racial.
Y, si bien la tecnología no es la herramienta principal para resolver la inequidad social y de salud sistémica, puede desempeñar un papel importante en asociación con los esfuerzos del gobierno y la sociedad civil. Sin embargo, para que la tecnología sea efectiva, debe construirse de manera responsable, y no importa qué tan buena sea una herramienta, la gente no la usará a menos que tenga su confianza.
Como director de uso ético y humano, he trabajado en estrecha colaboración con mi equipo durante el año pasado para aplicar nuestros principios de uso ético y humano al desarrollar tecnología que aborde estas crisis. Con este trabajo, hemos aprendido lecciones valiosas que seguirán siendo importantes y aplicables mucho después de que termine la pandemia actual. Compartimos estas lecciones con un espíritu de transparencia mientras navegamos juntos por este territorio inexplorado, sabiendo que siempre tenemos más que aprender.
Lección 1: Aprenda del pasado. Evite reinventar la rueda
Cuando nos enfrentamos a una crisis, a menudo existe un sesgo por la acción inmediata. Sin embargo, es fundamental que nos tomemos el tiempo para incorporar lecciones del pasado en el desarrollo de soluciones modernas. En 2020, se nos recordó que debíamos dar un paso atrás y reconocer que muchos de estos problemas no son nuevos. Si bien el COVID-19 en sí mismo es novedoso, sabemos que esta no es la primera crisis de salud global que enfrentamos. Esta no es la primera vez que sacamos a la luz las desigualdades en salud en nuestras comunidades, aunque las disparidades se han profundizado debido a la pandemia. El mundo ha experimentado pandemias antes y hay muchas organizaciones bien establecidas y confiables que se ocupan de las crisis de salud todos los días.
Mientras desarrollamos nuestro producto de respuesta a pandemias, Work.com (una plataforma basada en datos diseñada para ayudar a las empresas a reabrir de manera segura y proteger al personal), Salesforce se asoció con expertos médicos y en privacidad para asegurarse de que seguimos las mejores prácticas para mantener la privacidad y los derechos humanos, a la vanguardia de este trabajo. También buscamos organizaciones como las Naciones Unidas y el Comité Internacional de la Cruz Roja para desarrollar nuestras pautas de retención y eliminación de datos.
A menudo es más eficiente y responsable aprovechar las herramientas, los procesos y las tecnologías existentes o apoyar a otros que ya han estado haciendo el trabajo. Cuando el tiempo es esencial y hay vidas en juego, reforzamos nuestro compromiso de confiar en los expertos y escuchar las orientaciones de salud pública. Con esta guía como nuestra estrella del norte, buscamos modificar, no reinventar, la rueda.
Lección 2: Conozca sus valores y lidere con acciones basadas en principios
En Salesforce, nuestros valores fundamentales influyen en todo lo que hacemos. Cuando creamos la Oficina de Uso Ético y Humano, comenzamos identificando un conjunto de cinco principios rectores (derechos humanos, privacidad, seguridad, honestidad e inclusión) para informar nuestro trabajo sobre tecnología responsable. Estos principios, basados en convenios internacionales de derechos humanos e informados por los comentarios de los empleados, nos guían todos los días en el diseño, desarrollo y entrega de nuestros productos.
Cuando la pandemia golpeó y el mundo se sumió en un estado de ambigüedad y miedo, aprovechamos nuestros principios rectores para orientar nuestro trabajo. Nos asociamos con nuestro equipo de privacidad para crear un conjunto de principios específicamente para guiar nuestra respuesta tecnológica COVID-19 : 1) proteger los derechos humanos y la igualdad; 2) honrar la transparencia; 3) minimizar la recopilación de datos; 4) adoptar un enfoque a largo plazo; 5) garantizar la seguridad de los datos personales. Estas consideraciones fueron a las que volvimos una y otra vez para guiar a nuestros equipos en el desarrollo de Work.com.
Por ejemplo, estos principios llevaron a la decisión intencional de no ofrecer rastreo de contactos automatizado para preservar la privacidad y mantener la confianza de los usuarios. En cambio, ayudamos a nuestros clientes en la transición de sistemas analógicos (es decir, lápiz y papel) a sistemas digitales para el rastreo de contactos, mejorando la precisión y eficacia del rastreo de contactos y haciendo que los rastreadores de contactos humanos sean más eficientes.
Lección 3: Invierta por adelantado para crear procesos escalables y repetibles
En una crisis, el panorama cambia constantemente. Con la nueva información y los desafíos que surgen a diario, un proceso escalable y repetible para abordar los problemas es clave.
Hemos visto que las respuestas de los gobiernos a las pandemias evolucionaron de centrarse principalmente en las pruebas y el rastreo de contactos a un lanzamiento global de vacunas. Para nosotros, esto significó brindar orientación ética y consultas a los equipos que construyen tecnologías de gestión de vacunas COVID-19. Dada la necesidad y la urgencia generalizadas de este tipo de herramientas, como la tecnología de programación de citas y las credenciales de salud digital , pudimos escalar el trabajo de nuestro equipo al asociarnos estrechamente con integradores de sistemas y brindar orientación práctica sobre cómo centrar la privacidad, la equidad y el uso ético. a lo largo de.
Otra forma en que escalamos nuestro trabajo es aprovechando la tecnología. Además de la crisis de salud pública, también nos enfrentamos a una conciencia renovada de la crisis de injusticia racial en Estados Unidos y en todo el mundo. Una acción que estamos tomando para mitigar los prejuicios raciales y el daño en nuestros productos es abordar el lenguaje no inclusivo en nuestro contenido técnico y código. La inclusión es una práctica continua, y estamos comprometidos a revisar continuamente nuestro lenguaje técnico y aprovechar herramientas escalables, como Acrolinx y otros complementos , para automatizar los reemplazos de idiomas e impulsar la inclusión en nuestro lenguaje técnico .
Lección 4: La colaboración de múltiples partes interesadas es clave
En este año de crisis, hemos aprendido que invertir en escuchar, tener conversaciones sobre las diferencias y trabajar juntos es clave para abordar una crisis.
En lo que respecta a la gestión de vacunas y las credenciales de salud digital, estamos comprometidos a trabajar con otros grupos de la industria para crear estándares interoperables y las mejores prácticas sugeridas. El uso de la tecnología para ayudarnos a salir de una crisis requiere gobernanza, políticas y estándares. Queremos ser el socio digital de confianza, y la única forma de hacerlo es colaborando con otros grupos que trabajan con los mismos fines. Esto significa asumir roles de liderazgo en asociaciones como Vaccination Credential Initiative y Good Health Pass Collaborative, ambos grupos de trabajo intersectoriales encargados de restaurar la confianza y promover la equidad y la colaboración en el desarrollo de vacunas y sistemas digitales de pases de salud.
También aprovechamos nuestro Consejo Asesor de Uso Ético, un grupo diverso de expertos externos y empleados y ejecutivos de primera línea de Salesforce, para una discusión y una guía reflexivas sobre cuestiones de uso ético. Nos damos cuenta de que para avanzar juntos, es imperativo que aprendamos a tener conversaciones difíciles y a comunicarnos a través de las diferencias. Hemos aprendido que escuchar activamente, proporcionar múltiples canales seguros para la retroalimentación y compartir cómo seremos responsables son claves para generar confianza y lograr cambios significativos en tiempos difíciles.
“Para que la tecnología sea efectiva, debe construirse de manera responsable”.
Paula Goldman Directora de uso ético y humano, Salesforce
Estas lecciones son válidas fuera de una crisis. Como dijo la Dra. Kirsten Bibbins-Domingo, Profesora y Presidenta del Departamento de Epidemiología y Bioestadística de la Universidad de California en San Francisco : “Las crisis son crisoles para la innovación”.
El aprendizaje continuo y la iteración son clave para el éxito empresarial antes, durante y después de una crisis. Al invertir tiempo para reflexionar sobre el trabajo anterior e institucionalizar los aprendizajes en curso, podemos enfrentar mejor los obstáculos en el futuro.
Escrito por Paula Goldman , directora de uso ético y humano, Salesforce
Las opiniones expresadas en este artículo pertenecen únicamente al autor y no al Foro Económico Mundial.