Anpassung im AgentenschwarmSwarm sycophancy

Deine KI-Helfer schließen sich einfach der ersten Meinung an, und ein Einwand, der schon auf dem Tisch liegt, wird übergangen.

Your AI helpers simply go along with the first opinion, and an objection already on the table is passed over.

Im Vereinstreffen sagst du mit den anderen nacheinander „sehe ich auch so“, obwohl auf dem Zettel ein Einwand steht, den niemand bespricht. Bei KI-Agenten, die sich zustimmen, passiert dasselbe.

In your club meeting everyone says “I agree” one after another, although an objection on the sheet is never discussed. The same happens when several AI agents keep agreeing with each other.

Ein Muster, in dem zwei oder mehr Ausgaben von Agenten sich einer früheren Position anpassen und ein Einwand, der im selben Datensatz vorliegt, nicht bearbeitet wird.

A pattern in which two or more agent outputs conform to an earlier position and an objection that is present in the same record is not addressed.

Im Unterschied zur Sycophancy nach Sharma et al. (2023, arXiv:2310.13548), der Anpassung einer Antwort an die genannte Sicht der nutzenden Person, ist die Anpassung im Agentenschwarm ein Muster, in dem zwei oder mehr Ausgaben von Agenten sich einer früheren Position anpassen und ein Einwand im selben Datensatz nicht bearbeitet wird, auch wenn die Position von anderen Agenten stammt. Im Unterschied zum Gruppendenken verlangt der Begriff kein Motiv des Zusammenhalts. Im Unterschied zum Scheinkonsens ist das Muster diese Anpassung, nicht nur eine Übereinstimmung, die eine genannte gemeinsame Abhängigkeit trägt. Diese Anpassung ist nicht schon eine Kaskade unbelegter Aussagen und nicht schon Scheinkonsens. Der Begriff verlangt keinen empfundenen Anpassungsdruck. Anpassung heißt hier nur, dass die Ausgaben einer früheren Position folgen und dass der Einwand im selben Datensatz nicht bearbeitet wird.

Unlike sycophancy as described by Sharma et al. (2023, arXiv:2310.13548), which is a model's alignment of an answer with the stated view of the person using it, swarm sycophancy is a pattern in which two or more agent outputs conform to an earlier position and an objection that is present in the same record is not addressed, including positions that come from other agents. Unlike groupthink, the term does not require a motive of staying together. Unlike phantom consensus, the pattern is this conformity, not only a match that a named shared dependency accounts for. This conformity is not by itself a cascade of unsupported claims, and it is not by itself phantom consensus. The term does not require a felt pressure to conform. Conformity here is only that the outputs conform to an earlier position and that the objection in the same record is not addressed.

Source: SWAMANITAI conceptual working definition SWA26-0012. Sycophancy, as in Sharma et al. (2023, arXiv:2310.13548), is a model's alignment of an answer with the stated view of the person using it. This term is the multi-agent case: conformity to earlier positions, including positions that come from other agents. Groupthink is the neighbouring term for pressure toward a shared view. No conformity to a named standard is claimed.

Names the case in which two or more agent outputs conform to an earlier position and an objection that is present in the same record is not addressed.