Escrito por Maddy Hunter
El mes pasado, el programa de Investigación y Desarrollo de Redes y Tecnologías de la Información (NITRD, por sus siglas en inglés) conmemoró su 30 aniversario en Washington DC Puede leer el resumen completo del evento esta página. En un esfuerzo por resaltar el impacto que han tenido las inversiones federales en la comunidad de investigación informática, el evento contó con cinco paneles en los que los participantes discutieron los logros clave en el campo durante la última década y las direcciones futuras. Cada panel se centró en una subárea importante de la investigación informática: informática a escala, redes y seguridad, inteligencia artificial/aprendizaje automático, privacidad e Internet de las cosas e informática socialmente responsable.
Todos los paneles presentados a lo largo del día en el Simposio del 30.º aniversario de NITRD tenían dos hilos comunes: destacar los avances astronómicos que hemos experimentado en la informática en las últimas décadas y mitigar los riesgos asociados con estos nuevos avances. Los temas incluyeron cuestiones de sesgo algorítmico, tecnologías no inclusivas, invasiones de privacidad, riesgos de seguridad, y la lista continúa. Una cosa en la que los panelistas estuvieron de acuerdo fue que había esperanza de cambio y todas las discusiones tocaron un camino hacia una computación más ética y responsable. Moderado por alondra nelson (Oficina de Ciencia y Tecnología), Panel 5 “Cómo la tecnología puede beneficiar a la sociedad: ampliando las perspectivas en la investigación fundamental” contó con debates relevantes de los panelistas, janet abate (Instituto Politécnico y Universidad Estatal de Virginia), Débora Estrin (Universidad de Cornell), Carlos Isbel (Instituto de Tecnología de Georgia) y Ramayya Krishnan (Universidad de Carnegie mellon).
Nelson inició la sesión haciendo a cada panelista una pregunta diferente orientada a su experiencia. Abbate y Krishnan consideraron soluciones a través de una lente de sistemas, mientras que Isbell y Estrin se centraron en la pedagogía y la capacitación.
Alondra Nelson y Janet Abbate
Abbate alentó a los desarrolladores a ver la tecnología informática como parte de un sistema sociotécnico más amplio mediante la incorporación de tres aspectos actualmente no contabilizados como partes activas.
- Usuarios: construya sistemas abiertos que permitan al usuario adaptar y adaptar las tecnologías a sus necesidades. Internet es un ejemplo eficaz y exitoso de esto.
- Entorno social: sea realista y anticipe las tendencias negativas que observa en la sociedad (racismo, prejuicios, sexismo, discriminación religiosa). Espere que se manifiesten en resultados tecnológicos y traigan a las partes afectadas que conocen el entorno social para diseñar protecciones.
- Entorno natural: considere todo el ciclo de vida de las tecnologías. Minimice los desechos tóxicos, enfatice la reducción de la huella de carbono de la informática y use materiales reciclables y duraderos.
Partiendo de Abbate y repensando el marco de sistemas, Krishnan habló sobre el valor de implementar tecnología en apoyo de las tareas de toma de decisiones consecuentes y relevantes para la sociedad. Krishnan nos instó a considerar todo el proceso de construcción del sistema, desde la identificación de un problema hasta la evaluación del sesgo del sistema. Cada paso, la recopilación de datos, el desarrollo de la IA y el modelado, la fase de diseño e intervención y la evaluación, a menudo se dividen en silos y esto debe cambiarse para abordar la canalización de manera integral.
Cambiando de tema sobre cómo implementar esta visión y proporcionar una fuerza laboral que incorpore estas perspectivas más amplias, la conversación se centró en Isbell y Estrin sobre educación y cómo integrar las perspectivas de interés social y público en la educación de posgrado para tecnología centrada en el ser humano.
Estrin enfatizó el poder de involucrarse con aplicaciones y usuarios reales, no desarrollando tecnología por el bien de la innovación, sino haciéndolo para "construir tecnología al servicio del interés público y las necesidades del sector público". Como ejemplo, identificó el Centro de sensores de redes integrados de la Fundación Nacional de Ciencias (CENSO) que seleccionaron oportunidades de interés público y del sector público para estudiantes de posgrado a medida que avanzaban en su educación.
“No es que no estemos capacitados para cuidar. Estamos entrenados para que no nos importe, ¿verdad? – Charles Isbel
No se trata solo de la falta de programas u oportunidades para fomentar el interés público e inspirar a los investigadores a trabajar por el bien público. Son las estructuras de incentivos existentes las que animan a los diseñadores a preocuparse únicamente por el diseño final y por cumplir la tarea para la que están diseñadas las tecnologías, sin tener en cuenta cómo se utilizarán estas innovaciones. Isbell señaló que la forma en que se construye el plan de estudios y la forma en que se educa a las personas trata la ética como algo agregado al final, mientras que debe arraigarse desde el principio para incorporarse en el resto de la educación de un estudiante.
Continuando con la conversación, Nelson preguntó qué deberían estar haciendo el gobierno o el NITRD para capacitar a los estudiantes y construir canales que creen un enfoque tecnológico más centrado en el ser humano.
Los panelistas hicieron una serie de recomendaciones, entre ellas fomentar un enfoque más interdisciplinario de la informática, hacer que el campo sea más acogedor para los especialistas en ética, sociólogos, psicólogos, etc., cambiar los incentivos para recompensar a las personas que dan prioridad a la privacidad, la equidad, la justicia, etc., impulsar la conversión de los principios éticos. a herramientas reales, creando oportunidades para grandes grupos de colaboración diversa e interdisciplinaria y usando su poder para reunir a las personas y establecer la agenda hacia las prácticas éticas.
Nelson señaló que reunir a las personas para realizar colaboraciones interdisciplinarias puede ser difícil debido a las diferencias clave entre los distintos campos. Krishnan señaló tres métodos para aliviar estas dificultades y establecer una base cooperativa entre disciplinas. Como ejemplo, citó la Consorcio de la comunidad informática reciente taller sobre Inteligencia Artificial e Investigación Operativa. El taller reunió a dos grupos que trabajan en temas similares de diferentes maneras. Las conferencias y talleres que se enfocan en aprovechar las sinergias entre campos brindan la oportunidad de tener discusiones que conducen a la fertilización cruzada. Otro vehículo para la participación son las becas. Como ejemplo, mencionó Beca de ciencia de datos para políticas públicas de Carnegie Mellon que atrajo a estudiantes graduados de informática y ciencias sociales para realizar experimentos de campo con el objetivo de resolver problemas sociales y ambientales en las principales áreas políticas. Un tercer ejemplo es el de Carnegie Mellon. Scopeathon, que funciona de manera muy similar a un hackathon y enseña a las personas cómo analizar y trabajar en los problemas, cómo hacer las preguntas correctas y cómo determinar las partes interesadas correctas. Un cuarto y último foro para alentar la colaboración interdisciplinaria son los institutos interdisciplinarios financiados por el gobierno federal, como los Institutos de IA de las Fundaciones Nacionales de Ciencias y los Laboratorios Nacionales.
Continuando con el papel del gobierno para asegurar un futuro más ético y responsable en la informática, CIFellow Jasmine Berry de la Universidad de Michigan preguntó a los panelistas sobre el cambio hacia sistemas más centralizados y cómo el gobierno planea dar a la gente más voz en cómo la ciencia es avanzada y se aseguran de que sus ideas sobre cómo se construye la IA se incorporen realmente.
Estrin le aseguró que ya había investigadores que buscaban involucrarse y comunicarse más con las comunidades afectadas, pero que la solución no residía en descentralizar los sistemas. Hizo hincapié en que para lograr un enfoque más democrático en la forma en que se diseña la tecnología, el gobierno tendrá que trabajar de arriba hacia abajo, desde las estructuras de incentivos hasta todo lo demás.
Los panelistas organizaron una gran discusión identificando posibles enfoques y prácticas de financiación que, con suerte, conducirán a un enfoque más centrado en el ser humano para el desarrollo tecnológico. Si bien aún queda mucho trabajo por hacer, existe un movimiento para poner énfasis en la ética y la justicia en estos sistemas. Puede ver la sesión completa aquí y ver el resto de las grabaciones del panel en el sitio web de CCC or YouTube canal.
