Ein aktueller Hype ist die so genannte “generative KI”. Also Programme, meistens als Cloud-Dienst, die aus einem Prompt irgendein größeres “kreatives” Werk macht, z.B. einen Text oder ein Bild.
Relevanz aus Teckids-Sicht
"KI"s um Texte und Bilder zu generieren sind aktuell sehr beliebt. Auch in Schulen werden sie eingesetzt, oder einfach zum Spaß benutzt.
Probleme mit “KI”
Solche generativen “KI”-Systeme bringen einige Probleme mit sich:
- Für das Training der Modelle werden meistens Inhalte von Menschen genutzt, die damit eigentlich nicht einverstanden sind oder die nicht zugestimmt haben
- Beim Training gibt es Bias, also ein Verfälschung der Annahmen der KI. So kommt es oft dazu, dass diese Systeme Falschinformationen oder sogar rassistische oder andere gefährliche Inhalt erzeugen
- Die Menschen, die das Training der Modelle durchführen, sind oft schlecht bezahlte Arbeiter*innen, die unter schlechten Bedingungen arbeiten
- Viele “KI”-Systeme von Cloud-Anbietern brauchen viele Resourcen (Strom, Wasser,…)
- Die meisten cloudbasierten Angebote sind nicht frei und offen und sehr intransparent
Informieren über generative KI
Wir sollten uns einmal gemeinsam informieren und zusammentragen, wie “generative KI” funktioniert und wie stark die Vor- und Nachteile aus wissenschaftlicher Sicht wirklich sind.
Das würde ich gerne vor der nächsten Mitgliederversammlung machen, damit wir dort dann ein Statement von Teckids zur Nutzung von generativer KI verfassen können. Daher sollten sich einzelne Leute mit ein paar Vorbereitungen beschäftigen:
- Ein oder zwei selbsthostbare Sprach- oder Bilderzeugungsmodelle installieren und uns zeigen
- Rechtliche und ethische Fragen recherchieren und zusammenfassen
Bei den Teckids-Campdays Winter (Dezember) 2024 in Essen soll es dann eine Session geben, bei der wir “generative KI” ausprobieren und auch schon einmal über die anderen Fragen diskutieren.
Bitte meldet euch zeitnah hier als Antwort, wenn ihr euch mit einem Teil der Vorbereitungen beschäftigen wollte!