AI už jedná za nás.Co je zdvořilé?

Teorie zastoupení formalizuje trvalý společenský problém: zmocnitel dává agentovi pravomoc jednat jeho jménem a poté potřebuje způsoby řízení nesouladu, dohledu a odpovědnosti.

Učící se agent stojí za rozhraním a jedná za uživatele. Delegované jednání se objevuje před dnešní metaforou asistenta.

Interakce se posouvá od zadávání každého kroku softwaru k tomu, že se agent rozhraní učí preference a provádí úkoly jménem uživatele.

Agenti se stávají komunikujícími softwarovými aktéry, kteří spolupracují s ostatními agenty — technickým předchůdcem dnešní společenské vrstvy mezi agenty.

Delegování se stává běžnou návrhovou otázkou: kolik autonomie udělit, které chyby lze tolerovat a kdy si má člověk úkol ponechat.

Výzkum interakce člověka s počítačem chápe viditelnost, povědomí a odpovědnost jako infrastrukturu pro ohleduplné společenské chování online. Etiketa potřebuje společenskou vnímatelnost.

Sociální zástupce zviditelňuje účastníky a aktivitu, aby se online skupiny mohly vzájemně vnímat a vyjednávat normy prostřednictvím rozhraní.

Mluvčí může jednat tak, že se jeho čin počítá jako čin větší skupiny. Zmocnění umožňuje společensky připsat chování jednoho aktéra jinému.

Myšlenka přechází ze společenské kritiky do populárních vysvětlujících médií. Otázka se stává osobní: stáváme se lidmi-zástupci?

Floridiho vztah zastupování se uplatňuje na digitální zástupce a vnáší identitu, povinnosti a odpovědnost do vztahu mezi člověkem a něčím, co jej nahrazuje.

Delegování se stává technickou infrastrukturou: agenti potřebují ověřitelné řetězce ukazující, za koho jednají, jaké pravomoci obdrželi a jak jsou omezeny a auditovány.

Etika AI se nově chápe přes delegovanou morální pravomoc. Umělé systémy mohou jednat, ale odpovědnost se nemůže jednoduše vypařit do stroje.

Estonská debata o AI-isikukood odděluje strojovou identitu od statusu osoby. Předmětem odpovědnosti se stává vymezené, odvolatelné delegování s rekonstruovatelnými důkazy.