KI scheint unaufhaltbar. Die Entwicklungen der letzten 2 Jahre sind atemberaubend und vielversprechend. Sie heizen die Phantasie an und führen zu immer größeren Versprechen.

Viel Aufsehen hat ein Interview mit Satya Nadella (CEO Microsoft) erregt, das sehr verkürzt in den letzten Tagen immer wieder auf die Headline „SaaS is dead“ reduziert wurde. Das Interview ist sehr interessant, ich kann es nur empfehlen!

KI: Vom Baustein zur eigenständigen Lösungsmaschinerie

Bisher beglückt uns KI eher in Form von individuellen Tools, denen wir bestimmte Aufgaben stellen. Z.B. in der Interaktion mit immer mächtigeren Chats (Nadella: „Chat brings answers!“), Textübersetzung, Bildgenerierung oder Texterkennung. Mächtige Tools, aber explizit und bewusst eingesetzt. Trotzdem können viele Nutzer nicht mehr exakt einordnen, was da passiert und welche Limitierungen gelten.

An immer mehr Stellen werden auch Tools in einem Prozess zusammengeschaltet (z.B. um zu einem Thema einen Text zu recherchieren, Lernmaterial zu erstellen und dieses dann in Form eines Podcasts zu vertonen). Dies wird häufig als AI Workflow bezeichnet.

Aktuell stehen wir am Übergang zur nächsten Stufe: Unter AI Agents versteht man Softwaresysteme, die selbständig mit KI den Lösungsraum explorieren und dann eine erarbeitete Folge von erstellten Schritten abarbeiten (die oft auch wieder aus KI-Bausteinen bestehen), um zu einem Ziel zu kommen. Im Moment fehlen dazu sowohl aus Nutzungssicht als auch aus Entwicklungssicht noch die Erfahrungen. Trotzdem sind AI Agents schon mit größten Erwartungen belegt.

AI Agents – Wie sollen die eigentlich genau arbeiten?

AI Agents werden schon als neues Nutzungsparadigma gehandelt. Gute Beispiele fehlen aber noch weitgehend (Nadella: „Commercial intent migrates to chat“). Ein immer zur Illustration verwendetes Beispiel ist die (weitgehende) Automatisierung von Buchungen einer Reise. Der Nutzer beschreibt also nur die Wünsche an die Reise und ein AI Agent ermittelt eigenständig die Optionen, also aufeinander abgestimmt Hotel, Mietwagen, Bahn, Erlebnisse, … und führt auch die Buchung aus.

Auch im Enterprise-Umfeld hört man immer mehr davon, dass AI Agents große Aufgaben übernehmen sollen und diese eigenständig umsetzen, z.B. in der Analyse von geschäftlichen Kennzahlen unterschiedlichster Art und der Ableitung und Umsetzung von geschäftlichen Aktionen, z.B. im Marketing oder Pricing.

Um das zu ermöglichen, sind zahlreiche Herausforderungen zu lösen:

• Datenzugriff: Auf welche Daten im persönlichen oder Enterprise-Umfeld hat ein AI Agent Zugriff und wie kann dieser Zugriff bewusst gesteuert, erlaubt oder auch eingeschränkt werden? Mehr Daten und damit mehr Kontext können zu besseren Entscheidungen führen. Auf keinen Fall will aber jeder Nutzer jedem AI Agent alle seine Daten zugänglich machen.
• Nutzer-Interaktion: An welchen Stellen fragt ein AI Agent nach und lässt sich grundsätzliche Lösungswege oder auch spezifische Optionen (wie z.B. einen bestimmten Übernachtungsort oder ein Hotel) bestätigen oder agiert doch voll-autonom? Wenn ein AI Agent nachfragt: Wie kommuniziert er die Situation und Frage möglichst klar und nachvollziehbar, auch mit den jeweiligen Konsequenzen?
• Verantwortlichkeit: Wer ist verantwortlich für die resultierenden Ergebnisse des AI Agents, z.B. wenn doch eine falsche Buchung eines Hotels getätigt wurde?
• Nachvollziehbarkeit: Wie werden bei komplizierten Vorgängen mit individuellen Lösungswegen diese Lösungswege und Entscheidungen dargestellt und nachvollziehbar gemacht?
• Dauerhaftigkeit und Wiederholbarkeit: Können durchgeführte Aktionen wiederholt werden und ist klar, wo auch nachträglich und dauerhaft die Ergebnisse nachvollzogen werden können?
• Vereinbarungen zwischen Service-Providern: Inwieweit werden Service-Provider wie Hotel-Buchungsportale vorab durch Vereinbarungen involviert, dass automatisierte Buchungen über AI Agents stattfinden werden und welche rechtlichen Rahmenwerke sind dafür notwendig?

Wie diese Fragen in Zukunft beantwortet werden bei der Entwicklung und Nutzung von AI Agents wird sich zeigen müssen. Auch Satya Nadella hat dazu ganz offen gesagt, dass noch vieles unklar ist.

”SaaS is Dead“ – Alle Logik in die KI …?

Die Aussage von Satya Nadella, die zu viel Aufruhr nach dem Interview führte, ist:

Diese Einschätzung teile ich so nicht. Denn sie würde bedeuten, dass die gesamte Business-Logik komplexer geschäftlicher Applikationen irgendwie in einem KI-Modell „gelernt“ werden müsste. Und damit fiele auch die Notwendigkeit weg, ein gut durchdachtes Digital Design für Business-Logik und User-Interaktion zu gestalten.

Natürlich würden sich so KI-basierte Lösungen ergeben, die auch viel Funktionalität irgendwie umsetzen würden. Sie würden dafür aber alle möglichen Qualitätseigenschaften opfern. Und vor allem würden sie etwas opfern, was gerade bei Business Software extrem wichtig ist und schon heute zu oft zu Problemen und Missverständnissen führt: die geeignete Abbildung der Realität in der Software und ein gemeinsames Verständnis von dem, was eine Software tun soll und tut. So blieben Präzision, Klarheit, Nachvollziehbarkeit auf der Strecke!

Zukünftig wird mehr und mehr Geschäftslogik über KI-Modelle umsetzbar sein. Aber ich gehe davon aus, dass klar entschieden und designed werden muss, was durch üblichen Programmcode und was durch ein KI-Modell umzusetzen ist.

Mehr Digital Design für einen neuen Materialmix!

Deshalb bin ich fest davon überzeugt, dass die Verwendung von zunehmend mehr KI in Softwaresystemen hohe Ansprüche an das Digital Design stellen wird. Noch mehr, als es vor dem Einzug von KI der Fall war. Insbesondere kann ich es mir aktuell nicht vorstellen, dass alle notwendige Business-Logik „gelernt“ sein wird und somit letztlich auch ein explizites Digital Design verzichten könnte.

Allein die Integration von traditionell entwickelten Systemteilen und KI-basierten Teilen ist herausfordernd. Es handelt sich um verschiedene „Materialien“ mit unterschiedlichen Eigenschaften. Und wie im Handwerk auch müssen diese passend miteinander verbunden werden.

Die oben aufgeworfenen Fragen brauchen Lösungen, von denen im Moment wohl noch niemand weiß, wie sie aussehen werden.

Unsere Disziplin muss Wege finden, Nutzern klarzumachen, was in der immer komplizierter, größer und heterogener werdenden Softwarelandschaft um sie herum passiert. Worauf sie sich verlassen können und wo die Ergebnisse „eher Vorschläge“ sind. Und idealerweise schaffen wir es, dass die Nutzer es gar nicht bemerken, wie kompliziert die Softwarewelt aus technischer Sicht geworden ist.