Возможно, будущее не за стерильным "выравниванием" под человека и даже не за вездесущим сверхчеловеческим ИИ, а за формированием дикого, живого мира, в котором водятся самые разные "ИИ". От сверхсложных и непостижимых до простых и узкоспециализированных "цифровых насекомых". Кто-то из них будет создавать информацию, кто-то — ею питаться. Одни будут протягивать "усики" манипуляторов в наш физический мир, другие — безвылазно обитать в глубинах цифрового океана.
В некоторых мы сможем признать личность и агентность, а другие будут жить на скоростях, несоизмеримых с нашими, и наше взаимодействие с ними будет напоминать отношения птиц и деревьев.
Но в этой картине мира нам всем найдется место. Мы становимся неотъемлемой частью новой экосистемы — её плодородной почвой, основой для новой, стремительной и требовательной к энергии жизни. Точно так же, как когда-то (и сейчас) для нас "постарались" бактерии, растения и животные, создав этот уютный мир на удивительно структурированной планете, согретой лучами Солнца.
Выравнивание, Энтропия и Большие языковые модели (https://t.me/a_pligin/110) 5/5