ИИ уже действует за нас.Что считается вежливым?

Теория агентских отношений формализует давнюю социальную проблему: принципал даёт агенту полномочия действовать от своего имени, а затем нуждается в способах управления расхождением интересов, контролем и ответственностью.

Обучающийся агент работает за интерфейсом и действует за пользователя. Делегированное действие появляется раньше современной метафоры помощника.

Взаимодействие переходит от указания программе каждого шага к интерфейсному агенту, который изучает предпочтения и выполняет задачи от имени пользователя.

Агенты становятся общающимися программными участниками, способными взаимодействовать друг с другом, — техническими предшественниками нынешнего социального уровня отношений между агентами.

Делегирование становится общим вопросом проектирования: сколько автономии дать, какие ошибки допустимы и когда задача должна остаться у человека.

Исследования взаимодействия человека и компьютера выделяют видимость, осведомлённость и подотчётность как инфраструктуру тактичного социального поведения в сети. Этикету нужна социальная воспринимаемость происходящего.

Социальный представитель делает участников и деятельность видимыми, чтобы сетевые группы могли замечать друг друга и согласовывать нормы через интерфейс.

Представитель может действовать так, что его действие считается действием более широкой группы. Полномочия позволяют социально приписать поведение одного участника другому.

Идея переходит из социальной критики в популярные объясняющие медиа. Вопрос становится личным: становимся ли мы людьми-заместителями?

Отношение представительства у Floridi применяется к цифровым представителям, привнося идентичность, обязанности и ответственность в отношения человека с тем, что его замещает.

Делегирование становится технической инфраструктурой: агентам нужны проверяемые цепочки, показывающие, за кого они действуют, какие полномочия получили, чем они ограничены и как проверяются.

Этика ИИ переосмысляется через делегированные моральные полномочия. Искусственные системы могут действовать, но ответственность не может просто раствориться в машине.

Эстонская дискуссия об AI-isikukood отделяет идентичность машины от статуса личности. Предметом подотчётности становится ограниченное по объёму и отзывное делегирование с восстанавливаемыми подтверждениями.