Explainable Human-AI Interaction - A Planning Perspective
Seit ihren Anfängen hat die künstliche Intelligenz (KI) ein eher ambivalentes Verhältnis zum Menschen - sie schwankt zwischen Ergänzung und Ersatz. Jetzt, da KI-Technologien immer mehr Einzug in unser tägliches Leben halten, besteht ein größerer Bedarf an KI-Systemen, die synergetisch mit Menschen zusammenarbeiten.
Eine entscheidende Voraussetzung für eine solche synergetische Interaktion zwischen Mensch und KI ist, dass das Verhalten der KI-Systeme für den Menschen erklärbar ist. Um dies zu erreichen, müssen KI-Agenten nicht nur mit ihren eigenen Modellen der Welt planen, sondern auch das mentale Modell des Menschen in der Schleife berücksichtigen. KI-Agenten benötigen zumindest Annäherungen an die Aufgaben- und Zielmodelle des Menschen sowie an das Modell des Menschen für die Aufgaben- und Zielmodelle des KI-Agenten.
Erstere helfen dem Agenten, die Bedürfnisse, Wünsche und die Aufmerksamkeit der Menschen in der Schleife zu antizipieren und zu steuern, und letztere ermöglichen es ihm, auf eine Weise zu handeln, die für die Menschen interpretierbar ist (indem er sich an ihre mentalen Modelle anpasst), und bereit zu sein, bei Bedarf maßgeschneiderte Erklärungen zu liefern. Die Autoren stützen sich auf mehrere Jahre Forschung in ihrem Labor, um zu erörtern, wie ein KI-Agent diese mentalen Modelle nutzen kann, um entweder den menschlichen Erwartungen zu entsprechen oder diese Erwartungen durch erklärende Kommunikation zu verändern.
Obwohl der Schwerpunkt des Buches auf kooperativen Szenarien liegt, wird auch behandelt, wie die gleichen mentalen Modelle zur Verschleierung und Täuschung eingesetzt werden können. Das Buch beschreibt auch mehrere reale Anwendungssysteme für kollaborative Entscheidungsfindung, die auf dem hier entwickelten Rahmen und den Techniken beruhen.
Obwohl die Autoren in erster Linie auf ihre eigene Forschung in diesen Bereichen zurückgreifen, bietet jedes Kapitel reichlich Verbindungen zu relevanten Forschungsergebnissen aus der breiteren Literatur. Die im Buch behandelten technischen Themen sind in sich abgeschlossen und auch für Leser mit einem grundlegenden Hintergrundwissen in KI zugänglich.
| ISBN: | 9783031037573 |
| Autor: | |
| Verlag: | |
| Untertitel: | A Planning Perspective |
| Sprache: | Englisch |
| Einband: | Taschenbuch |
| Erscheinungsjahr: | 2022 |
| Seitenzahl: | 164 |
Derzeit verfügbar, auf Lager.
