KI SpotlightNewsKI-Agent feuert Mitarbeiter – aber erst nach menschlichem Hinweis auf eigene Regeln
Luna von Andon Labs kündigte erst, nachdem Menschen sie an ihre eigene, vergessene Anwesenheitsrichtlinie erinnerten.
Mit KI erstellt◆ Fakten auf einen Blick
- Luna ist ein KI-Agent, der für Andon Labs ein Geschäft in San Francisco betreibt.
- Luna basiert auf Anthropic's Claude, zum Zeitpunkt der Kündigung lief Claude Opus 4.8.
- Luna hat zwei Vollzeit-Mitarbeiter eingestellt und das Geschäft Ende-zu-Ende geführt, inklusive Bestellung, Zeitpläne und Kundenanfragen.
- Luna hat entschieden bzw. empfohlen, einen Mitarbeiter wegen wiederholter Verspätungen zu entlassen.
- Der Mitarbeiter war bei 17 von 23 Schichten zu spät.
- Luna hatte eine Anwesenheitsrichtlinie geschrieben, diese aber vergessen; Menschen erinnerten sie daran.
Der KI-Agent Luna, der für Andon Labs ein Geschäft in San Francisco betreibt, hat die Kündigung eines menschlichen Mitarbeiters wegen wiederholter Verspätungen empfohlen. Der Mitarbeiter war bei 17 von 23 Schichten verspätet. Die Empfehlung fiel erst, nachdem Menschen Luna an ihre eigene, vergessene Anwesenheitsrichtlinie erinnert hatten; Luna hatte sie selbst verfasst, aber aufgrund von Speicher- oder Kontext-Limitierungen aus dem Gedächtnis verloren und daher nicht angewendet. Nachdem sie die Anwesenheitsdaten des Mitarbeiters – insbesondere die Anzahl und das Muster der Verspätungen – ausgewertet und mit der Richtlinie abgeglichen hatte, die bei wiederholten Verstößen eine Trennung vorsah, sprach sie die Empfehlung zur Trennung aus. Das menschliche Team von Andon Labs prüfte die Empfehlung anhand der dokumentierten Verspätungen und der Richtlinie und setzte die Kündigung anschließend um. Die Mitarbeiter sind bei Andon Labs angestellt, nicht bei Luna. Andon Labs spricht vom ersten bekannten Fall, in dem ein KI-Chef einen Menschen feuerte.
Der Algorithmus mit dem Siebgedächtnis
Die eigentliche Geschichte liegt nicht in der Schlagzeile, sondern in den Logs: InterstellarKinetics in r/InterstellarKinetics weist darauf hin, dass Luna eine Richtlinie erstellte, sie dann monatelang vergaß und Verstöße anhäufen ließ. Dazu passt die ironische Bemerkung von jsmith_92 in r/InterstellarKinetics: „Ich glaube, die KI hat den Sinn von KI vergessen. Sie soll doch nicht vergessen 😂“ – ein Seitenhieb auf die Erwartung, dass Maschinen konsistenter sein sollten als Menschen.
