Aktuell | Forschung | c't | heise magazine

Röntgenbilder verraten der KI mehr

Ein internationales Wissenschaftlerteam hat eine künstliche Intelligenz geschaffen, die anhand von Röntgenaufnahmen die ethnische Abstammung eines Menschen erkennt. Ärzte können das nicht.

Anhand solcher Halswirbelaufnahmen aus dem Computertomografen gelang der KI die sichere Bestimmung der ethnischen Abstammung.

Bild: Emory University Hospital

In einer gemeinsamen Forschungsarbeit hat ein internationales Team ein Deep-Learning-Modell entwickelt, das mit hoher Sicherheit aus medizinischen Röntgenaufnahmen die ethnische Abstammung abliest. Die Forscher aus den USA, Kanada, Australien und Taiwan stellten fest, dass der KI diese Bestimmung mit über 95-prozentiger Sicherheit gelang, und zwar anhand von Aufnahmen aller anatomischen Regionen des menschlichen Körpers. Schon im Vorwort ihrer Studie warnen sie davor, dass dieser Effekt bei der automatisierten Bewertung von medizinischen Aufnahmen und bei KI-gestützten Behandlungsvorschlägen Gefahren birgt.

In der Vergangenheit hat sich mehrfach gezeigt, dass KI-Systeme vorherrschende Vorurteile übernehmen können. Beispielsweise hatten künstlich intelligente Systeme bei der Vorauswahl für Stellenbesetzungen gezielt dunkelhäutige und weibliche Bewerber schlechter eingestuft. Andere Anwendungen hatten afroamerikanischen Straftätern bei der Prüfung auf Aussetzung ihrer verbleibenden Haftzeit eine deutlich schlechtere Sozialprognose ausgestellt als vergleichbaren weißen Insassen. Eine medizinische Anwendung, die die ethnische Abstammung eines Patienten erkennt, könnte aufgrund rassistisch beeinflusster Trainingsdaten unpassende Therapievorschläge abgeben.

In ihrer Arbeit trainierten die Forscher ein neuronales Netz mit Hunderttausenden Röntgen- und Computertomografiebildern, darunter Oberkörperaufnahmen, Brustmammografien, Extremitäten sowie Halswirbelaufnahmen. Obwohl ihr neuronales Netz die ethnische Abstammung sehr sicher bestimmte, gelang es ihnen nicht, die anatomischen Unterschiede zu identifizieren, an denen sich die KI dabei orientierte. (agr@ct.de)

Gehirne kündigen Entscheidungen an

Die KI konnte anhand neuronaler Signale vorhersagen, welche Richtung die Maus als Nächstes einschlagen wird.

Bild: MPI CBS

Ein internationales Team unter der Leitung von Markus Frey vom Max-Planck-Institut für Kognitions- und Neurowissenschaften (MPI CBS) hat eine KI entwickelt, die das Verhalten von Labormäusen und sogar von Studienteilnehmern vorhersagt. Das dazu trainierte Convolutional Neural Network entschlüsselte Reize aus mehreren Gehirnregionen, gemessen etwa mit implantierten Mikroelektroden.

Damit gelang es, das Verhalten von Labormäusen auf einem Testfeld vorherzusagen, etwa welche Richtung sie einschlagen und wie schnell sie dann laufen. Nachdem das neuronale Netz geeignete menschliche Studienteilnehmer mit Elektroden direkt auf der Hirnrinde bei Fingerübungen beobachtet hatte, gelang es ihm, auch für diese die nächsten Handbewegungen vorherzusagen. Die Forscher vermuten, dass ähnliche Vorhersagen auch mit den Daten von Hirnströmen (Elektroenzephalografie, EEG) beziehungsweise aus der magnetischen Aktivität des Gehirns (Magnetenzephalografie, MEG) möglich sind. (agr@ct.de)

KI wächst in Deutschland

Wie der KI-Monitor 2021 im Auftrag des Bundesverbands Digitale Wirtschaft (BVDW) ausweist, hat sich seit 2019 der Anteil der Firmen, die künstliche Intelligenz nutzen, verdoppelt. Demnach gaben 21 Prozent der befragten Unternehmen in Deutschland an, dass sie bereits KI-gestützte Systeme einsetzen. Schon vorher zeigte sich von 2016 bis 2018 eine Verdopplung der einschlägigen Patente deutscher Antragsteller von 367 auf 738. Im Gesamtergebnis weist der KI-Monitor einen steigenden Index auf, den vor allem die Entwicklung in der Wirtschaft treibt. Kooperationen zwischen KI-Forschung und Unternehmen sowie die Zahl der Informatikabsolventen nehmen zu; gleichwohl bleiben Fachkräfte sehr gefragt. Um die Akzeptanz in der Gesellschaft zu erhöhen, rät der BVDW, Anwendungen transparent zu gestalten und verbindliche Verhaltensregeln für KI einzuführen. (agr@ct.de)