«Квалиафобный ИИ»: как сделать систему, которой нельзя приписать сознание
Bicameral Labs выпустила препринт о необычном подходе к ИИ alignment (выравнивание): вместо того чтобы спорить, «есть ли у модели сознание», предлагается инженерно строить архитектуры, к которым ни одна теория сознания не сможет обоснованно применить это понятие.
👨🔬 Эрик Хоэл (автор) строит аргументацию от моральной значимости сознания. Если ИИ доказуемо не-сознателен, то:
🟣 он не может быть «целью в себе», а значит, не может претендовать на замену человечества в качестве «вида-преемника».
🟣 его нельзя использовать как «монстра полезности» (utility monster), из-за которого человеческое вымирание могло бы показаться морально оправданным.
🟣 он не может быть субъектом прав на основе «естественной личности».
🟣 его собственное «благополучие» не может блокировать выключение, сброс памяти или тренировочные стресс-тесты.
🤖 В результате не-сознательный ИИ, по замыслу, естественным образом смещается в роль «смотрителя» и помощника, а не конкурента.
🕸 Три стратегии «квалиафобии»
1️⃣«Якорение» — это приближение архитектуры к «якорным точкам», то есть к системам с заведомо минимальным потенциалом сознания. Затем к существующим нейросетям применяют «квалиафобные трансформации», чтобы сдвинуть их архитектуру в сторону таких якорных систем.
2️⃣ Фрагментация феноменологии — это проектирование систем, в которых заведомо не может возникнуть связное или единое переживание, даже если отдельные свойства, соответствующие
