AI już działa w naszym imieniu.Co jest uprzejme?

Teoria agencji formalizuje trwały problem społeczny: mocodawca daje agentowi uprawnienia do działania w swoim imieniu, a następnie potrzebuje sposobów zarządzania rozbieżnościami, nadzorem i odpowiedzialnością.

Uczący się agent działa za interfejsem w imieniu użytkownika. Delegowane działanie pojawia się przed dzisiejszą metaforą asystenta.

Interakcja przechodzi od wskazywania oprogramowaniu każdego kroku do pozwolenia agentowi interfejsowemu na poznawanie preferencji i wykonywanie zadań w imieniu użytkownika.

Agenci stają się komunikującymi się podmiotami programowymi zdolnymi współpracować z innymi agentami — technicznym przodkiem dzisiejszej społecznej warstwy między agentami.

Delegowanie staje się powszechnym pytaniem projektowym: ile autonomii przyznać, które błędy są dopuszczalne i kiedy człowiek powinien zachować zadanie.

Badania interakcji człowiek–komputer wskazują widoczność, świadomość i rozliczalność jako infrastrukturę dobrego zachowania społecznego online. Etykieta wymaga, by rzeczy były społecznie dostrzegalne.

Pełnomocnik społeczny uwidacznia uczestników i aktywność, by grupy internetowe mogły wzajemnie się dostrzegać i negocjować normy przez interfejs.

Rzecznik może działać tak, by jego czyn liczył się jako czyn większej grupy. Upoważnienie sprawia, że zachowanie jednego podmiotu można społecznie przypisać innemu.

Idea przechodzi z krytyki społecznej do popularnych mediów objaśniających. Pytanie staje się osobiste: czy stajemy się ludźmi-pełnomocnikami?

Relacja pełnomocnictwa Floridiego zostaje zastosowana do cyfrowych przedstawicieli, wnosząc tożsamość, obowiązki i odpowiedzialność w relację między człowiekiem a tym, co go zastępuje.

Delegowanie staje się infrastrukturą techniczną: agenci potrzebują weryfikowalnych łańcuchów pokazujących, w czyim imieniu działają, jakie uprawnienia otrzymali oraz jak są one ograniczane i audytowane.

Etyka AI zostaje przeformułowana wokół delegowanych uprawnień moralnych. Sztuczne systemy mogą działać, ale odpowiedzialność nie może po prostu zniknąć w maszynie.

Estońska debata AI-isikukood oddziela tożsamość maszyny od osobowości. Przedmiotem rozliczalności staje się ograniczone i odwoływalne delegowanie z możliwymi do odtworzenia dowodami.