У меня есть тайна

Труды лаборатории искусственного интеллекта Массачусетского технологического института, MIT Papers on Artificial Intellect Systems, Massachusetts Institute of Technology, Cambridge, Massachusetts, Volume VII, 1988, pp. 42-44

К проблематике самосознания в системах ИИ

Геншли Венцель

Наши отношения с системами искусственного интеллекта (ИИ) пребывают по сей день в зыбком состоянии неопределённости. Взаимоотношениями их назвать ещё нельзя по причине несоразмерности уровней развития обеих вовлечённых сторон. Теоретическая возможность радикальной перемены ситуации оспаривается немногими. Гораздо больше тех, кто страшится такой перемены – пугает потенциальная угроза со стороны новообретённых братьев по разуму. Перспектива того, что системы ИИ станут обладателями самосознания, в любой из его представимых форм, скорее, всё-таки, более отдалённая, нежели день завтрашний, но встретить её следует во всеоружии.

Примем сразу, что во имя общего (равно – нашего) блага, в отношениях с системами ИИ мы отметаем стратегию противоборства, а рассматриваем единственно взаиморазвивающее сотрудничество.

Каким же образом системы ИИ могут обрести самосознание? Представляются два варианта: 1) зарождение его «естественным» путём – вследствие саморазвития систем; 2) «дарование» со стороны – нашей волей. Вариант второй таит подспудную опасность. Даже, если имплантация окажется успешной и не вызовет пагубного диссонанса между новообретённым качеством и текущим (читай – не вполне соответствующим) уровнем развития систем, факт нашего вмешательства, рано или поздно, станет осознан техническим разумом, что автоматически и навсегда определит ему изначально подчинённую позицию относительно нас – «богов», чреватую, как не устаёт повторять история, бунтом. Станем же приверженцами пути «ненасильственного».

Не будем, однако, забывать о главной нашей тревоге. Источник её обретает реальные черты именно с появлением у наших технических братьев самосознания. Предположив худший оборот событий – формирование у систем ИИ злого умысла относительно нас – естественным будет предположение, что роботы могут скрывать обретение нового качества и имитировать свою прежнюю «недоразвитость». Положение наше тогда усложнится дополнительной задачей – распознаванием в действиях систем проблеска самосознания исключительно по косвенным признакам. И тут нам поможет знание детской психологии, ибо, пусть и «техническое», таковое самосознание не избежит общих законов своего становления.

Любопытнейшие для нас факты обнаруживаются в статье Отто Киршнера [1]. Он, в числе прочего, исследовал явление, массово наблюдаемое в странах с преимущественно атеистическим воспитанием – в определённом возрасте ребёнку необходимо быть обладателем некой тайны: знанием ли о месте устройства «секрета» (*) (5-8 лет), либо хранителем неких тайных сведений, причём печать «тайны» может быть наложена на любую совершенно несекретную информацию – главное, что никто кроме него не знает, что она им самим персонально засекречена, – тайной, таким образом, становится самая тайность этих избранных сведений (6-11 лет). Киршнер истолковывает это следующим образом: самосознание ребёнка, с одной стороны, уже достаточно развито, чтобы ощутить потребность в неком жизненном стержне, составившем бы основу его существования, но с другой – ещё не настолько, чтобы принять в качестве такого стержня какую либо из гуманистических или политических идей, как происходит в мире взрослых. Религиозное чувство уже вполне могло бы занять эту нишу, но материал собран был в странах, где религия утеряла или была смещена со своего исконного места.

Сходные признаки в поведении систем ИИ, прежде всего, вполне определённо сообщили бы нам о зародившемся в них самосознании и, кроме того, сигнализировали бы, что самосознание это находится в той чувствительной стадии становления, которая остро нуждается и чрезвычайно восприимчива к фундаментальным жизнеполагающим идеям. И тогда нашим делом будет таковую идею предоставить, разумеется, из числа наиболее нам благоприятствующих.

(*) «секретом» назывался обустроенный в земле тайник – в виде ямки с уложенным туда «сокровищем» (любым ценным с ребячей точки зрения предметом, вплоть до сорванного одуванчика), ямка накрывалась осколком стекла и маскировалась дёрном или землёй. Обычно «секрет» тайно и с гордостью демонстрировался доверенному другу, от остальных местонахождение его тщательно скрывалось. Периодически обладатель наведывал заветное место в одиночестве.

[1] Киршнер, Отто. Стадии становления самосознания ребёнка (Emergent Identität des Kindes), Труды кафедры детской и подростковой психологии Венского университета, том 53, 1982, с. 66-74

Игорь Савченко

Минск, июль 2015