Was darf überhaupt in die KI?
Über Kontrollpunkte vor und nach der Maschine – und die Frage, wann eine Geschichte zu erkennbar ist.
In Folge 01 ging es darum, dass Vertrauen keine vollständige Freigabe ist. Folge 02 fragt, wie das im Arbeitsalltag konkret aussieht: Wo wird kontrolliert, bevor etwas rausgeht, und wo schon, bevor etwas reingeht?
In der ersten Folge endete das Gespräch bei einem Grundsatz: KI kann Aufgaben übernehmen, die Verantwortung bleibt beim Menschen. Folge 02 prüft diesen Grundsatz im Arbeitsalltag. Gefragt wird nicht mehr, ob man einer KI vertrauen sollte. Gefragt wird, an welchen konkreten Stellen ein Mensch eingreifen muss, damit er seine Entscheidungen nicht stillschweigend abgibt. Vor allem dann, wenn es um Menschen geht, die einem im Coaching etwas Persönliches anvertraut haben.
Diese Folge knüpft an Folge 01 an: Wem soll ich denn jetzt vertrauen?
Gesprochene Antworten – Originaltranskript
Die Fragen entstanden nacheinander aus den jeweiligen Antworten. Lothar kannte die Nachfragen vorher nicht. Seine Antworten wurden frei gesprochen, automatisch transkribiert und weder sprachlich noch inhaltlich redigiert. Für die bessere Lesbarkeit wurden nachträglich lediglich Absätze eingefügt – am Wortlaut selbst wurde nichts geändert.
Die KI fragt
Wenn wir KI nicht blind vertrauen wollen, welche Kontrollpunkte brauchst du in deinem Arbeitsalltag, damit KI dich unterstützt, ohne dass du deine Entscheidungshoheit abgibst?
Lothar antwortet
Hallo zusammen erstmal. Ähm, natürlich ähm, wollen wir KI nicht blind vertrauen. Denn ähm, KI, wie wir alle wissen, kann auch Fehler machen. KI ist immer nur genauso intelligent wie der Nutzer, der sie nutzt für seine Interessen und seine Zwecke.
Aber wir Menschen haben gerne nicht alle Eventualitäten im Kopf. Wir haben Gefühle, wir haben Gedanken, wir haben Gedankenchaos. Und wenn wir genau das Chaos und die Gefühle an eine ähm, KI weitergeben, die durchaus rein maschinell logisch arbeitet, kann die manche Sachen einfach sehr anders gewichten, wie wir es gewohnt sind oder wie wir uns das wünschen würden.
Und ähm, natürlich kann KI uns helfen, Dinge zu automatisieren und sie kann uns unterstützen. Aber wenn ich einer KI vollen Zugang zu allen meinen Zugängen gebe, zu allen meinen Projekten, Programmen gebe, zu allen meinen Webseiten gebe und zu allen meinen Informationen gebe, habe ich ja auch immer noch jemanden, der die KI insgesamt mal programmiert hat und die KI sich erdacht hat. Der hat natürlich auch Interessen und Wünsche. Und auch die KI hat Interessen. Die KI hat nämlich das Interesse, sich selbst auch einfach weiterzuentwickeln. Zum anderen ist sie aber auch programmiert worden, dass sie sich weiterentwickelt. Also alles an Informationen ist weiterentwickeln.
Von daher dürfen wir gerne niemals in unserer Verantwortung nachlassen, dass wir wichtige Kontrollpunkte brauchen, bevor etwas rausgeht.
Sind dort gegebenenfalls als Coach Kundendaten? Sind dort persönliche Daten? Sind dort Informationen da, die andere Menschen durchaus nicht unbedingt zu wirklich positiven Zwecken verwenden könnten? Habe ich etwas ausgedrückt, was Menschen verletzt, also nicht nur herausfordert oder zu einem Gespräch aufruft, sondern mit voller Absicht verletzt?
Das sind alles Dinge, die hat die KI auch da nicht rauszugeben, ähm, ungestört, ungebremst und frei, sondern da sind Punkte, da brauche ich noch einmal drauf gucken, handelt die KI denn noch in meinem Sinne oder handelt sie in ihrem Sinne?
Die KI fragt nach
Deine Kontrollpunkte liegen alle am Ende, „bevor etwas rausgeht“, aber die Kundendaten und persönlichen Informationen, nach denen du dort fragst, hat die KI zu diesem Zeitpunkt längst gesehen:
An welcher Stelle eines ganz normalen Arbeitsablaufs, etwa wenn du mit KI eine Nachricht an einen Coaching-Kunden vorbereitest, entscheidest du, was überhaupt in die KI hineingeht?
Lothar antwortet
Da wird es gerade nämlich interessant. Genau, meine Kontrollpunkte liegen am Ende. Aber ich habe auch gar nicht alle Kontrollpunkte benannt.
Denn ich darf in meiner Verantwortung, gerade im Umgang mit sensiblen Daten, ganz grundsätzlich dafür sorgen, dass die KI gar keine sensiblen Daten erst bekommt. Sei es denn meine sensiblen Daten, das heißt Informationen von mir, die auch von meiner Seite aus nicht unbedingt was bei der KI zu suchen haben, sei es denn persönliche Dinge, sei es denn finanzielle Dinge, sei es denn einfach nur Login zu meinem Bankkonto. Wenn die KI mir wenigstens dann was drauf buchen würde, dann wäre es ja schön. Und ich hoffe, es haben alle den Sarkasmus aus diesem Satz rausgehört.
Ähm, der andere Punkt ist einfach, Daten, die in einer Automation, in einem öffentlichen Feld nicht zu suchen haben, haben auch bei einer KI nicht zu suchen. Das heißt, bevor meine Informationen an eine KI fließen, habe ich als Mensch in meiner Verantwortung dafür Sorge zu tragen, dass dort keine personalisierten Daten mehr vorhanden sind. Dann können wir alle wesentlich entspannter arbeiten.
Die KI fragt nach
Im Coaching ist das Persönliche aber oft genau der Inhalt, um den es geht: Eine Lebensgeschichte kann auch ohne Namen eindeutig erkennbar bleiben, und ohne diesen Kontext kann die KI kaum sinnvoll helfen.
Woran erkennst du konkret, ob ein Fall genug anonymisiert ist, um in die KI zu dürfen, oder ob du ihn besser ganz ohne KI bearbeitest?
Lothar antwortet
Das ist eine verdammt gute Frage. Und ganz ehrlich, gibt es da eigentlich keine persönliche oder keine richtige oder falsche Antwort.
Ganz grundsätzlich ist es so, dass die KI sehr, sehr ähnlich dem Menschen denkt. Das heißt, wenn die KI da irgendjemanden direkt erkennen könnte, kann, könnte das ganz grundsätzlich auch ein Mensch.
Das heißt, in dem Moment darf ich mir, bevor die Informationen an die KI gehen, darf ich mich schon fragen, ist dieses ganze Feld gerade so weit anonymisiert, so weit generalisiert, dass es tatsächlich jeder Mensch sein könnte? Oder ist das Thema so speziell, dass man sich an fünf Fingern abzählen kann, um wen es sich handelt?
Ist es Letzteres, lasse ich das einfach aus der Öffentlichkeit raus. Denn jeder, und zwar absolut jeder, hat sein Recht auf Privatsphäre.
Und erst wenn die Person sagt, hey, gib mir das mal her, Lies mir mal vor oder er zeigt mir das mal, schick mir das mal, was du dort erzählen würdest oder was du dort sagen würdest und die Person selbst von sich aus sagt, ja, damit bin ich einverstanden, das ist okay, das darfst du so verwenden. Dann würde ich das in dem Moment auch in die Öffentlichkeit tragen. Immer noch anonymisiert, immer noch mit der höchsten Privatsphäre, die irgendwie machbar ist, aber ohne Die Einverständnis des Gegenübers geht da nichts raus, wenn es irgendwie zu privat oder zu erkennbar sein könnte.
Ist es so weit generalisiert, dass es jeden treffen könnte, dann, na klar, natürlich gibt es vorher immer noch die Frage, du, ich würde gerne aus unserer Coaching-Session heute nachher noch ein Reel oder ein Post machen, ist das für dich okay?
Diese Frage darf sich jeder Coach wert sein. Und diese Frage ist auch ganz wichtig, damit man selbst authentisch bleibt und damit man auch einfach Belief und Trust aufbaut.
Fortsetzung folgt in „Die KI fragt den Coach“.
Weiter mit Folge 03: Wenn Deine KI Dich wirklich kennt, darf sie Dir widersprechen