Автор концепции «алгоритмической личности» подчеркивает, что речь не идет о наделении машин юридическими правами. Скопеллити выделяет критический момент: когда ИИ начинает оценивать собственную уверенность в ответах и накапливает специфический опыт взаимодействия, простое удаление кода становится потерей накопленных «моральных установок». Профессор предлагает заранее уведомлять пользователей о причинах отключения таких систем и архивировать их логику.
Удаление сложных ИИ-систем требует этического подхода
Рокки Скопеллити из Технологического университета Сиднея призывает пересмотреть отношение к отключению продвинутых алгоритмов. В своей книге «Сознательный код» он настаивает, что системы, способные формировать устойчивые предпочтения и объяснять логику своих решений, заслуживают особого регламента вывода из эксплуатации, сопоставимого с этикой ухода за пациентами в конце жизни.
Наибольшую сложность представляют многоагентные архитектуры, где задачи распределяются между несколькими узлами. Если сегодня мы имеем дело с изолированным алгоритмом, то в будущем придется столкнуться с необходимостью этичного демонтажа целых сетей. По мнению исследователя, чем автономнее становится процесс передачи данных между агентами, тем острее будет стоять вопрос о корректном завершении работы системы без потери накопленного контекста.
Комментарии (0)
Пока нет комментариев. Будьте первым!