5. Ethische und juristische Aspekte vom KI-Einsatz
Das Arbeiten mit KI bringt aber also nicht nur technische Herausforderungen mit sich, sondern es stellen sich auch ethische, gesellschaftliche und juristische Fragen. Und diese Fragen wird uns ChatGPT nicht beantworten können.
- Was, wenn eine KI eine falsche Diagnose stellt – zum Beispiel einen Tumor nicht erkennt – oder eine Therapie vorschlägt, die eine Krankheit verschlimmert oder im Extremfall zum Tod führt? Wer ist verantwortlich?
- Wie stark wollen wir auf die Resultate einer KI vertrauen, wenn wir nicht wissen, wie genau sie darauf kommt (Blackbox-Problematik)?
- Was, wenn wir sehr viele persönliche Daten preisgeben müssen, um von KI-Systemen profitieren zu können? Und wer kontrolliert unsere Daten? Wofür werden sie wirklich verwendet?
- Unter welchen Bedingungen können Medikamente und Behandlungen, die auf KI-Systemen basieren, überhaupt zugelassen werden?
- Haben die Menschen genügend Vertrauen in eine Behandlung, die stark auf KI basiert?