Quixote - технология, способная снабдить искусственный интеллект общепринятыми моральными принципами - «Наука и технологии»

Если вы начнете рассказывать истории своему компьютеру или домашнему роботу, то вы рискуете заработать репутацию человека со странностями. Однако, научите робота читать самостоятельно и снабдите его соответствующей литературой, и вам, вероятно, удастся предотвратить робо-апокалипсис в будущем. Именно эта идея легла в основу создания системы Quixote, разработанной Марком Ридлом (Mark Riedl), директором Лаборатории интеллектуальных развлечений (Entertainment Intelligence Lab) Технологического института Джорджии (Georgia Institute of Technology). Основываясь на результатах разработки и использования предыдущей системы под названием Scheherazade, Марк Ридл посредством системы Quixote снабдил искусственный интеллект массой историй, в которых демонстрируются общепринятые нормы поведения в обществе, помощь другим, пунктуальность, отсутствие агрессии и т.п.

Вышеупомянутые истории, которые "скармливаются" искусственному интеллекту системой Quixote, отбираются ею из огромной массы рассказов людей о своих действиях и поступках, которые соответствуют общепринятым нормам морали и поведения. С учетом того, что на просторах Интернета такие рассказы имеются в большом изобилии и система Scheherazade способна самостоятельно генерировать "тонны" подобной "литературы", у системы Quixote никогда не возникает проблем с поисками нового "учебного материала".

Кроме снабжения искусственного интеллекта "учебным материалом", система Quixote выполняет функции поощрения, она назначает награды, виртуальные "золотые звезды", когда искусственный интеллект принимает собственные решения, которые соответствуют нормам хорошего поведения, почерпнутым из "прочитанных" историй. За решения и поведение, не соответствующее нормам, система Quixote начисляет своего рода "отрицательные баллы".

"Мы полагаем, что для того, чтобы иметь возможность вписаться в любое общество, искусственный интеллект должен быть максимально изолирован от какой-либо определенной культуры, но при этом, он должен стремиться избегать недопустимого в обществе поведения" - рассказывает Марк Ридл, - "Давая искусственному интеллекту способность читать и воспринимать наши рассказы, понимать причины и последствия действий, мы снабдим его принципами, соответствующими общепринятой морали. И прямого участия человека в этом деле может и не потребоваться".

Следует отметить, что возможность восприятия коротких рассказов и истории имеет ценность для систем искусственного интеллекта не только с точки зрения обретения моральных принципов. Некоторые исследовательские группы уже используют детские рассказы, позволяющие ИИ лучше разобраться в естественном языке и стать более лучшими помощниками людям. А самостоятельное изучение специализированной литературы позволит искусственному интеллекту воспринять тонкости любой области, начиная от этики до выполнения офисной работы. И все эти знания, нормы и принципы должны стать своего рода защитным барьером, который не допустит даже зарождения в недрах искусственного интеллекта "мыслей" об уничтожении человечества.