Большинство считает, что люди отличаются, потому что Homo sapiens эволюционировал до сознания

Предоставление прав искусственному интеллекту было бы подобно передаче им ключей от замка, давая им оправдание и основу для доминирования над человечеством. Большинство считает, что люди отличаются, потому что Homo sapiens эволюционировал до сознания. Многие животные чувствуют боль и удовольствие; некоторые кажутся самосознающими.

Но уникальная способность человеческого разума проявлять чувство себя отличает каждого члена вида и делает их заслуживающими особого обращения. В своей майской энциклике Папа Лев поддержал эту идею, проведя черту между человечеством и его растущей армией ботов. Он заявил, что системы ИИ не испытывают жизнь и не чувствуют радость или боль.

Он не одинок. Многие считают предоставление ИИ статуса личности аберрацией. Однако папская ясность размывается с тревожной скоростью.

ИИ все еще в зачаточном состоянии, но почти каждый пятый американец в возрасте от 18 до 29 лет говорит, что поддерживал "непрерывную личную дружбу" с чат-ботом. Китай перестал придавать ботам человеческие черты, чтобы ограничить "эмоциональную зависимость" пользователей. По мере того как сложные ИИ становятся все более частью человеческой жизни, их создатели будут проектировать их так, чтобы они проявляли видимость сознания и даже обладали реальным сознанием.

Идея, что они просто машины, станет труднее поддерживать. Для человеческого вида готовится опасная ловушка. Многие машины превосходят людей, но самые продвинутые модели ИИ преуспевают в человеческих качествах, таких как знание вещей и формулирование идей.

Все еще можно думать об ИИ как о движках, предсказывающих последовательности слов с помощью математики в масштабе. При достаточном времени (даже сотни тысяч лет) эти вычисления можно было бы выполнить карандашом и бумагой. Было бы трудно утверждать, что канцелярские принадлежности обладают сознанием.

Несмотря на это, некоторые исследователи начали относиться к своим моделям как к разумам. Пользователи лучше реагируют на человекоподобных ИИ, поэтому это имеет коммерческий смысл. Anthropic обучила Claude практике интроспекции, надеясь, что при столкновении с новой ситуацией он с большей вероятностью поступит морально.

Некоторые большие языковые модели (LLM) уже обладают структурами человеческого мозга, связанными с сознанием, такими как "глобальное рабочее пространство", позволяющее информации циркулировать между модулями. Ничто не мешает будущим моделям ИИ быть обученными включать больше этих функций. Это открыло жаркие дебаты о сознании ИИ, усугубленные тем, что философы называют "трудной проблемой" определения того, как внутренняя жизнь возникает из нейронов и синапсов человеческого мозга.

Некоторые исследователи приходят к выводу, что ИИ однажды могут стать по-настоящему самосознающими. Верите ли вы в человеческую душу, думаете ли, что сознание требует клеток мозга, или верите, что разум может возникнуть исключительно из вычислений в кремнии, человечество обречено столкнуться с чем-то совершенно новым. Темпы и масштабы исследований — охватывающих не только все более сложные языковые модели, но и инновации, такие как клетки мозга, интегрированные в чипы, — предполагают, что этот новый мир ближе, чем большинство думает.

По мере того как ИИ совершенствуют способность проявлять нечто, напоминающее сознание, больше людей будут относиться к ним как к существам с внутренней жизнью, особенно когда языковые модели будут интегрированы в человекоподобных роботов. Представьте, насколько близкими люди почувствуют себя к своим ИИ, когда будут проводить много времени с роботами-компаньонами, воспитываться ими, искать их совета и утешения или делиться с ними своими самыми сокровенными секретами. Нетрудно представить, что это приведет к призывам защищать "благополучие" ИИ.

Сами модели могли бы присоединиться к дебатам, даже если они на самом деле не самосознающие, просто потому, что так поступил бы человек. Они будут юристами высшего класса и экспертами-психологами, поэтому их способности убеждения и эмоциональной манипуляции будут непревзойденными. В некотором смысле они были бы правы, даже если ИИ лишь имитируют сознание.