TecnoManiaticos
Broussard también se recuperó recientemente de cáncer de mama y, después de leer la letra pequeña de sus registros médicos electrónicos, se dio cuenta de que la IA desempeñó un papel en su diagnóstico, algo que se está volviendo cada vez más común. Este descubrimiento la llevó a realizar su propio experimento para aprender más sobre lo buena que es la IA para diagnosticar el cáncer.
Nos sentamos a hablar sobre lo que descubrió, así como sobre los desafíos para el uso policial de la tecnología, los límites de la “justicia de la IA” y las soluciones que ve para algunos de los desafíos que plantea la IA. La conversación ha sido editada para mayor claridad y duración.
Me llamó la atención la historia personal que cuentas en el libro sobre la inteligencia artificial como parte de tu propio diagnóstico de cáncer. ¿Puedes contarles a nuestros lectores qué hiciste y qué aprendiste de esta experiencia?
Al comienzo de la pandemia, me diagnosticaron cáncer de mama. No solo estaba atrapada adentro porque el mundo estaba cerrado; También estaba atrapado adentro porque tuve una cirugía mayor. Un día, mientras miraba mi gráfico, noté que uno de mis escaneos decía: Este escaneo fue leído por AI. Pensé, ¿Por qué AI leyó mi mamograma? Nadie me lo mencionó. Solo estaba en una parte oscura de mi historial médico electrónico. Me interesó mucho aprender sobre las últimas tecnologías de detección de cáncer basadas en IA, así que diseñé un experimento para ver si podía replicar mis resultados. Tomé mi propia mamografía y la pasé por una IA de código abierto para ver si detectaba mi cáncer. Descubrí que tenía muchos conceptos erróneos sobre cómo funciona la IA en el diagnóstico del cáncer, que exploro en el libro.
[Once Broussard got the code working, AI did ultimately predict that her own mammogram showed cancer. Her surgeon, however, said the use of the technology was entirely unnecessary for her diagnosis, since human doctors already had a clear and precise reading of her images.]
Una de las cosas que aprendí de ser paciente de cáncer fue que los médicos, las enfermeras y los profesionales de la salud que me apoyaron durante mi diagnóstico y recuperación fueron increíbles e importantes. No quiero este futuro computacional estéril en el que vas y te haces una mamografía y luego un pequeño cuadro rojo dice Probablemente sea cáncer. No es realmente el futuro lo que nadie quiere cuando hablamos de una enfermedad potencialmente mortal, pero no hay muchos investigadores de IA que tengan sus propias mamografías.
A veces se escucha que una vez que los sesgos de la IA se “corrijan” lo suficiente, la tecnología se volverá mucho más común. Usted escribe que este argumento es problemático. Por qué
Uno de los grandes problemas que tengo con este argumento es que la IA de alguna manera está alcanzando su potencial y que este es un objetivo por el que todos deberían esforzarse. La IA es solo matemática. No creo que todo en el mundo deba regirse por las matemáticas. Las computadoras son muy buenas para resolver problemas matemáticos. Pero no son muy buenos para resolver problemas sociales, pero se aplican a los problemas sociales. Un final tan imaginario Oh, solo vamos a usar IA para todo este no es el futuro al que me estoy apuntando.
También escribes sobre reconocimiento facial. Recientemente escuché el argumento de que el movimiento para prohibir el reconocimiento facial (especialmente en la policía) está obstaculizando los esfuerzos para hacer que la tecnología sea más justa y precisa. ¿Qué piensa usted al respecto?
Definitivamente estoy en el campo de las personas que no apoyan el uso del reconocimiento facial en la policía. Entiendo que esto es confuso para las personas que realmente quieren usarlo, pero una de las cosas que hice mientras investigaba para el libro fue profundizar en la historia de la tecnología en la policía, y lo que encontré no fue inspirador.
Empecé con un gran libro. software negro por [NYU professor of Media, Culture, and Communication] Charlton McIlvaine, y escribe sobre el deseo de IBM de vender muchas de sus nuevas computadoras al mismo tiempo que teníamos la llamada guerra contra la pobreza en la década de 1960. Teníamos gente que realmente quería vender autos, buscando problemas para aplicarlos, pero no entendían el problema social. Avance rápido hasta hoy y todavía estamos viviendo con las desastrosas consecuencias de las decisiones tomadas en ese entonces.