KI und Drift – heute kann sie es, aber was macht sie morgen?

Was heute genial funktioniert, kann in wenigen Monaten im Desaster enden. Warum experimentierfreudig und enterprisefähig nun mal unterschiedliche Welten sind. Und mitten in der digitalen Welt ein einleuchtendes Bild mit einem Hammer.

„Die Frage ist, tut eine KI in sechs
Monaten auch noch das, was ich will?
Wie stellen wir sicher, dass sie
 sicher ist und bleibt?“

Torsten Pistor

Es ist natürlich für jeden Betreiber eine verlockende Vorstellung, dass mit der Implementierung einer KI basierten Software ein Thema ein für alle Mal erledigt ist. „Aber wir dürfen nicht vergessen“, führt Torsten aus, „dass eine KI ein nicht-deterministisches System ist, genauso wie der Mensch. Lernfähigkeit, Können und Wissen, verbunden mit Zufällen und Wahrscheinlichkeit können immer dazu führen, dass sich ein Mensch – oder eben ein System – auch mal verrennen kann und falsche Entscheidungen trifft oder sein Wissen veraltet.“ Das ist ein bekanntes Phänomen und wird in der Fachwelt als Drift bezeichnet.

„Was ist, wenn der Chatbot,
den wir installiert haben, nach
sechs Monaten anfängt, die
User zu beleidigen?“

Torsten Pistor

Bei der BRANDAD ist das der Grund, „warum wir sagen, der Einsatz von KI muss über die ganze Laufzeit hinweg überwacht werden – egal, ob wir sie in irgendeiner Applikation einsetzen oder in der Softwareentwicklung. Wir investieren hier gerade sehr viel Hirnschmalz, denn aus meiner Sicht wird die Messe nicht dort gelesen, wo du sagst, wow, die KI tut endlich das, was ich will. Die Frage ist vielmehr, tut sie in sechs Monaten auch noch das, was ich will? Tut sie kontinuierlich das, was ich will? Kann sie die Aufgabe permanent erledigen? Wie stellen wir sicher, dass sie sicher ist und bleibt? Dass der Chatbot, den wir da installiert haben, nicht nach sechs Monaten anfängt, die User zu beleidigen?“

Das sind für Torsten ähnliche Fragen, wie sie sich auch in der Zusammenarbeit mit Menschen ergeben. „Wenn jemand direkt nach der Einstellung seinen Job gut macht, heißt das nicht automatisch, er macht ihn in zwei Jahren immer noch gut. Was ist, wenn er zum Beispiel nicht dazulernt, nicht am Puls der Zeit bleibt, wenn sich sein Umfeld verändert, seine Interessen. „Das ist auch gar keine Bewertung, sondern die reine Feststellung, kann ich den Job noch machen oder nicht?“ Bei Menschen habe das viel mit Persönlichkeitsentwicklung zu tun – die dazu führen kann, dass dieser Job für diese Person einfach nicht mehr funktioniert. „Mit Menschen haben wir natürlich einen anderen Umgang, suchen andere Lösungen – aber ein KI-Model kommt unter Umständen einfach weg. Aber was für den Mensch gilt, gilt für die KI erst recht: Wir müssen schauen, ist das Fitting immer noch da? Und dieses Fitting muss permanent überprüft werden, um sicher wissen zu können, ob das immer noch die Unterstützung ist, die wir uns in diesem Kontext erhoffen.“ 

„Wir sorgen dafür, dass das
 ganze Ding hinten raus so funktioniert, dass du
mit dem Hammer draufkloppen kannst.“

Torsten Pistor

Beim Thema „sicherer Betrieb von KI hinten raus“ – so Torsten – „haben wir inzwischen eine beachtliche Expertise erworben.“ Die BRANDAD berät hier auch andere Firmen, die anfragen, welche Sicherungsmechanismen man einbauen kann und sollte. Der Fokus liegt dabei auf Konstanz und einem dauerhaften Mehrwert. Für Torsten ist es „cool, dass es Menschen und Unternehmen gibt, die Experimente machen und gucken, welche Use Cases kann ich mit KI lösen. Aber als Softwareanbieter und Entwicklungspartner für Firmen ist es unser Job, es enterprisefähig zu machen. Wir sorgen dafür, dass das ganze Ding hinten raus so funktioniert, dass du mit dem Hammer draufkloppen kannst, dass es sicher ist.“