Антология мысли
Заветы великих
В фокусе
Искусственный интеллект
МГУ
Институт искусственного интеллекта (2019)
СПбГУ
Центр искусственного интеллекта (2020)
Университет Иннополис
Институт искусственного интеллекта (2020)
AIRI
Институт искусственного интеллекта (2021)
ВШЭ
Институт ИИ и цифровых наук (2023)
МФТИ
Институт искусственного интеллекта (2024)
ИТМО
Институт искусственного интеллекта (2024)
Stanford
AI Laboratory (1963; Стенфорд, США)
MIT
Computer Science and Artificial Intelligence Laboratory (2003; Массачусетс, США)
Euler
Европейский центр программирования им. Леонарда Эйлера (2005; Москва, Россия)
Carnegie Mellon
AI (2018; Питтсбург, США)
ETH
AI Center (2020; Цюрих, Швейцария)
Berkeley
AI Hub (2022; Беркли, США)
Направления
Исследования
Ментальное программирование
Ментально-онтологическое программирование (если кратко, ментальное программирование) есть ответ на вызов ИИ. Это по сути зеркалирование искусственного интеллекта, своего рода анти-ИИ. Цель совершенно иная — не получение компьютерного помощника путём имитации поведения и мышления человека с последующей его заменой, а ментальное преобразование самого человека. Его мышления, его восприятия и поведения. Уже не человек должен улучшить компьютер, а найденные законы компьютерных наук должны улучшить человека.
Искусственный интеллект
Три хронические проблемы ИИ: (1) недостоверность, (2) отсутствие контроля полноты информации, (3) непрозрачность принятия решений.
• Базис. Вы не можете знать, кто, когда, как и на каких документах и эталонах обучал данную ИИ-систему (данную её версию).
• Приоритеты. Вы не можете знать систему заложенных в ИИ приоритетов (параметров, метрик), по какой методике и кто эту систему приоритетов выстраивал.
• Полнота. Вы не можете проконтролировать полноту данных и документов.
• Принятие решений. Вы не можете получить полную трассировку принятия решения, чтобы верифицировать корректность работы в данной конкретной ситуации.
• Владение. Этот чёрный ящик вне вашего контроля и практически любого внешнего контроля. Им владеет лишь тот, кто его создал.
Достоверность
В достоверности мы выделяем три среза: логика, пространство, время. Иными словами, (1) истинность (тепловые карты), (2) принадлежность источнику (персона, организация), (3) время (датировка).
Как и в случае доказывания в уголовном судопроизводстве (а это краеугольный камень правоведения), есть три этапа: (1) познавательный (сбор, накопление и фиксация полезных сведений),
(2) удостоверительный этап (проверка их достоверности) и (3) аргументационный (логический) этап.
2025. Кто создает компьютерное будущее | Война языков
В студии — Евгений Зуев (к. ф.-м. н., профессор Университета Иннополис), Алексей Недоря (к. ф.-м. н., ст. преподаватель МФТИ) и Руслан Богатырёв (директор Европейского центра программирования им. Леонарда Эйлера).
ПУБЛИКАЦИИ | СТАТЬИ
- 2019. Условность науки. Истина и вера
‹ Вера и наука — два разных взгляда. Но они схожи в том, что опираются на (безусловное) принятие базовых постулатов, догматов, аксиом. Из которых в дальнейшем и выстраивают свою призму восприятия мироздания и человека. Иными словами, учёные верят в свою аксиоматику. Хотя и не хотят в этом признаваться. ›
- 2021. Ищи обратное
‹ Да, мы живём не в мире доказательств, а в мире доводов. Трудимся не в библиотеке выверенной логики, а выживаем в пандемии безудержных страстей. Доводы и аргументы — свидетельства в пользу того или иного суждения. Их полнота, непротиворечивость и достоверность нам не так важны. Чаще не интересны. Достаточно лишь убедительной созвучности их нашим воззрениям, ожиданиям, предрассудкам. ›
- 2021. Критическое мышление, поэзия и программирование
‹ Критическое мышление (critical thinking)… Появление этого термина приписывают американскому философу Джону Дьюи (John Dewey, How we think, «Как мы мыслим», 1910). На русском языке его книга вышла в 1919 г. под названием «Психология и педагогика мышления». В 1933 г. работа была переиздана. И в ней он заменил «критическое мышление» иным: «рефлексией», «рефлексивным мышлением». Вот откуда пошла мода на пресловутую рефлексию. ›
- 2021. Как полагаться на доверие. В науке и в жизни
‹ Как только мы включаем режим профессиональной доверенности (как же — признанный эксперт, доктор наук, профессор, академик и т.п.), мы по сути попадаем в воронку модели Кена Томпсона. У нас нет времени самим писать свой «компилятор» (долго и дорого), как и времени на то, чтобы тщательно сделать трассировку всей логики работы данного «компилятора» (как и почему данный специалист пришёл к этим выводам, насколько они носят оценочно-предположительный характер). ›
- 2022. Истоки ментального программирования
‹ Предположим, что мы во многом сохраняем принципы традиционного программирования (компьютерного и математического), но меняем интерпретатор/вычислитель — им уже становится сам человек (его мозг, его мышление). Понятно, что в случае чисто счётных задач такая смена интерпретатора чаще уступает компьютеру. Потому нас будут интересовать несколько иные задачи. Высокоуровневые, абстрактные, ментальные. Оценка ситуации, креативность, принятие решений. В которых компьютеры пока нередко беспомощны или ограничены. Вот это и будет сфера ментального программирования (mental programming). ›
- 2022. Ментальное программирование, тектология и вторая грамотность
‹ Вернёмся к Андрею Петровичу Ершову. Да, он был абсолютно прав, говоря о второй грамотности. Но при этом, к сожалению, готов был довольствоваться лишь уровнем создания операционной обстановки вокруг компьютера, вокруг ЭВМ. Т.е. по сути вынужденного встраивания человека в агрессивный компьютерный мир. Полагаю, вполне уже настало время всерьёз призадуматься об обратном: о встраивании достижений компьютерного мира, компьютерного программирования в самого человека. Но не прямого, а опосредованного: на уровне программирования ментальности. Точнее, зодчества ментальности. И не извне, а осмысленно, самим человеком. Под его контролем и управлением. Когда, владея необходимыми познаниями, можно было бы выстраивать свою систему ментальной защиты от внешних потрясений, свою ментальную иммунную систему... Это грандиозная по своему масштабу идея. ›
- 2023. Камера обскура. Искусственный интеллект и ментальная трансляция
‹ Напрашивается аналогия с классической концепцией русского философа и культуролога Михаила Михайловича Бахтина (1895-1975): диалог культур; искусство подразумевает послание, диалог. Его можно облечь в форму текста. Значит, культуру, искусство можно мыслить как текст (в широком смысле). Основой и способом ведения диалога в теории М. М. Бахтина является текст, который представлен в форме различных знаковых систем (ими занимается семиотика)... Та же мысль нашла продолжение в творческом наследии Юрия Михайловича Лотмана (1922-1993), одного из основоположников советской семиотики. Он утверждал, что «текст есть сложное устройство, хранящее многообразные коды, способные трансформировать получаемые сообщения и порождать новые, как трансформационный генератор, обладающий чертами интеллектуальной личности»... Сделаем шаг дальше. В развитие идей Бахтина и Лотмана. Сформулируем более сильное высказывание. Итак, основой их теорий, научных воззрений является именно текст. По аналогии можно утверждать, что любой текст — это программа! А, значит, любое искусство подразумевает программирование. Мысленное, ментальное программирование. ›
- 2023. Истина и правда. Тепловые карты достоверности
‹ Для первичного, верхнего уровня (факты) в рамках своих исследований по достоверности мы в Европейском центре программирования им. Леонарда Эйлера используем собственную модель: тепловые карты достоверности. Идея несложная: маркировать информацию (текст) цветом. Подобно тому, как это можно видеть в картографии: возвышенности, низменности, равнины. Разумеется, это субъективная градация. Но градация вполне конкретным экспертом (экспертной группой). И весьма наглядная. Почему тепловые? Чем выше температура цвета, чем меньше длина электромагнитной волны, тем больше можно верить. Тем больше правды. Тем ближе к истине. ›
- 2023. Главное и абстрактное
‹ Давайте начнём сразу с науки. Сложность в понимании здесь состоит в том, что на бытовом уровне мы привыкли говорить о конкретном. Рассуждать на уровне конкретного мышления. И нам сложно вообще чем-то жертвовать. Всё вроде нужно, важно и нам дорого. Тогда как для выделения главного, значимого требуется умение переходить к абстрактному мышлению, к построению моделей. Т.е. знать, чем можно жертвовать и что отбрасывать, сохраняя суть, ядро. Ведь любая модель есть упрощение действительности. Ментальное упрощение. Намеренное. Выделение основного и отбрасывание незначимого. Основное же мы обобщаем и классифицируем, отображая уже на базовые понятия. На то, что и находится в ведении абстрактного мышления. ›
- 2023. Правда и ложь. Вариативность мышления
‹ Прежде всего, надо отказаться от категоричности. Любая категоричность приближает правду к пропаганде, а, значит, и ко лжи. Категоричность отсекает вариативность выводов. А вариативность — следствие разных условий и обстоятельств. Разного контекста. И этим нельзя пренебрегать. Но вариативность мышления очень непросто освоить. Нужно полностью перестраивать свою внутреннюю культуру мышления. Ведь мы должны не только получать и анализировать информацию, но и на её основе действовать. Пусть даже на словах. Она определяет наше поведение. И в каждый конкретный момент времени надо уметь из вариативности быстро формировать конкретику, однозначность, локальную категоричность. Т.е. проекцию разных, подчас противоречащих друг другу, версий. Но проецировать здесь и сейчас. Делать свой осознанный и взвешенный выбор в данной точке пространства и времени... Мы должны бережно ухаживать за своими деревьями вариативного мышления. Со всеми их замысловатыми корнями, веточками и листочками. И в нужный момент, здесь и сейчас, выбирать самый подходящий листочек. Который мы и будем считать для себя правдой. ›
- 2023. Генетика науки. Математические и инженерные школы
‹ Гордость страны — мощная математическая школа — заложила фундаментальные основы как в области русского инженерного дела, так и в сфере кибернетики, компьютерных систем, наук и программирования. Что крайне важно: все они начинались с практической потребности. Прежде всего, военной. Инженерное дело в России зарождалось с трёх главных составляющих армии того времени: фортификация, артиллерия, флот. Ещё при Иване Грозном для военных людей строительного дела были введены разряды (высший, второй, низший). Главными считались военные архитекторы-систематики, которые разрабатывали типы укреплений. В 1577 г. при Иване Грозном появляется Пушечный приказ (Пушкарский приказ). В его ведение входили строительство городов (крепостей), оборонительных линий, литьё колоколов, пушек и создание других вооружений. То было первое государственное учреждение, которое осуществляло контроль и регулирование инженерной деятельности в России. В этом плане мы почти не отставали от Запада. Первая в Европе артиллерийская школа в Венеции открылась в 1505 г. Спустя 7 лет в Испании (Бургос) появилась Королевская артиллерийская школа. Во Франции артиллерийская школа создаётся лишь в 1690 г. <...> Примерно до середины-конца 1960-х годов в Советском Союзе главными катализаторами генетики науки, образования, производства были атомный проект (И. В. Курчатов) и космический проект (С. П. Королёв). К ним вполне мог подключиться и кибернетический проект (В. М. Глушков), но обстоятельства сложились иначе. ›
- 2023. Генетика и кибернетика. Правда и ложь
‹ Кибернетика… Некогда это слово несло магический, едва ли не сакральный смысл. Ещё бы: единая могучая наука организации живой и неживой природы. Наука и искусство управления. Заветный ключ к глубинному преобразованию человека, общества и природы. Правда, в 1950-е годы в Советском Союзе, как следует из «Краткого философского словаря» под редакцией М. М. Розенталя и П. Ф. Юдина (Политиздат, 1954), кибернетика американского математика Норберта Винера («Cybernetics: Or Control and Communication in the Animal and the Machine», 1948) считалась реакционной лженаукой... С кибернетикой нам ещё только предстоит разбираться. Обстоятельно. С тем, что было, и что мы имеем сегодня. Что было в головах миллионов и как это соотносилось с реальностью. А вот с генетикой постараемся разобраться прямо сейчас… ›
- 2023. Программирование: Америка задавила Европу
‹ Америка в компьютерной сфере давно уже подмяла науку под бизнес. Причём хоронила её методично. В двух словах это не изложить. Но многие ответы на вопросы можно найти в архиве работ Эдсгера Дейкстры. Остроумного и беспощадного в своей иронии критика: Карла Маркса и Марка Твена компьютерного программирования в одном лице... Мои частые отсылки к ETH не должны вас смущать: центром противодействия американской культурной экспансии в программировании был и остаётся ETH Zurich, один из старейших и самых престижных университетов Старого Света, в стенах которого учились и работали такие выдающиеся учёные и инженеры, как Альберт Эйнштейн, Джон фон Нейман, Конрад Цузе, Никлаус Вирт... Формальные языки, верификация и методы трансляции... Именно эта сфера фундаментального программирования, где наши научно-инженерные традиции со времён Советского Союза огромны, и остаётся нашим сильным козырем в борьбе за мировое лидерство в ИТ. Не стоит забывать, что несмотря на относительную самостоятельность национальных исследований источником раздражения, стимулирующим работы, были прежде всего американцы. Подвергая критике американцев, нельзя не отметить, что американскую школу научно-инженерной элиты прошли те же Х. Рутисхаузер и Н. Вирт (автор Паскаля, Модулы-2, Оберона; друг и сподвижник Дейкстры). Организационная инфраструктура компьютерных наук в цюрихском ETH и новосибирском Академгородке делалась с примера американского Стенфорда. Да и важные проекты проф. Вирта (Modula-2/Lilith, Oberon/Ceres), столь красноречиво замалчиваемые в наши дни, в значительной мере шли под влиянием предшествующих работ американцев в Xerox PARC (Mesa и Cedar). ›
- 2024. Пантеон программирования. Памяти Игоря Васильевича Поттосина
‹ В нашей жизни, увы, редко можно встретить людей такой высочайшей нравственной культуры, глубокой образованности, беззаветного служения Родине и своему делу. Редко можно встретить настоящего русского интеллигента. Игорь Васильевич всегда старался оставаться в тени. Был блестящим организатором науки, правой рукой академика Андрея Петровича Ершова (1931-1988). При этом мудро и обстоятельно делал своё дело, не гонясь за регалиями, званиями, наградами, научным и общественным признанием. После смерти академика Ершова (1988) Игорь Васильевич взвалил на себя нелёгкую ношу продолжения духа и традиций сибирской школы программирования. Стал директором Института систем информатики им. Ершова (ИСИ СО РАН) — преемника знаменитого Отдела программирования ВЦ СО АН СССР, который они с Ершовым и формировали в конце 1950-х годов. ›
- 2024. Ментальность и театр. Три закона Дейкстры
‹ Ментальное программирование, которое является магистральным направлением исследований, ведущихся в Европейском центре программирования им. Леонарда Эйлера, следует понимать как контролируемое отображение принципов, правил и законов компьютерного программирования на сложный ментальный мир человека, а, значит, и на ментальный мир общества. Гегемонии искусственного интеллекта и диктатуре машин можно эффективно противостоять, в точности зная их уязвимости и максимально грамотно используя их методы и приёмы. Уже почти сто лет человечество, как ребёнок, увлечено собственными самодельными компьютерами. Сначала доминировал принцип «компьютер — придаток человека». В последние годы принцип заменён на противоположный: «человек — придаток компьютера». Увы, оба принципа — слишком циничное и весьма грубое представление гармонии отношений человека и мира технологий... ›
- 2024. Никлаус Вирт. Заветы смиренного зодчего
‹ Никлаус Вирт не боялся всё делать с нуля. Невольно вспоминается недостижимый ныне универсализм титанов классической музыки: Иоганн Себастьян Бах был не только гениальным композитором, непревзойдённым архитектором выверенных музыкальных конструкций, вдохновенным капельмейстером, виртуозным органистом, но и своими руками создавал и настраивал установленные в немецких готических храмах гигантские органы... Проф. Вирт, на мой взгляд, верно нащупал стиль классицизма в развитии инструментария. В то время как все, увлекаясь архитектурой барокко, помчались насыщать языки всё новыми могучими средствами и переносить центр тяжести на графические среды, он понял, что идти надо в противоположном направлении. Вычленяя квинтэссенцию и вынося за рамки компетенции данного языка паразитную нагрузку... Никлаус Вирт: «Я бы не стал говорить, что распространившаяся практика ООП реализовала весь свой потенциал. Наша конечная цель — расширяемое программирование (extensible programming). Под этим я понимаю возможность конструирования таких иерархий модулей, когда каждый добавляет в систему новую функциональность. Расширяемое программирование подразумевает, что можно добавлять модуль без необходимости вносить какие-либо изменения в существующие модули — не должно быть даже необходимости их перекомпилировать». ›
- 2024. США и Европа. Две культуры программирования
‹ Начиная с первых послевоенных лет Америка твёрдо шла по пути захвата рынков, устранения конкурентов и навязывания собственных взглядов на прошлое, настоящее и будущее компьютерных наук и компьютерной индустрии. Американская интерпретация истории — важнейшее звено в этом перепрограммировании ментальности. Одним из ключевых моментов стало практически постепенное разрушение европейской школы программирования за счёт американской культурной экспансии, ставящей во главу угла бизнес, коммерциализацию любых научных, социальных и экономических связей... О том, к чему ведёт американизация культуры программирования, Э. Дейкстра весьма детально изложил в своей работе «Почему американская компьютерная наука кажется неизлечимой» (1995, «Why American Computing Science seems incurable», EWD1209). Он пишет: «По жестокой шутке истории, впрочем, американское общество выбрало именно двадцатое столетие для того, чтобы становиться всё более и более нематематическим (кстати, явление, рассмотренное Моррисом Клайном и вызвавшее у него глубочайшее сожаление). Мы достигли парадоксального состояния, когда из всех так называемых «развитых наций» именно США сильнее всех зависят от программируемых компьютеров и хуже всех интеллектуально оснащены в данном направлении». ›
- 2025. Жизнь после ИИ. Главные изъяны искусственного интеллекта
‹ ИИ — это передовая программная фармацевтика. Но без клинических испытаний, лицензирования и подробного перечня возможных побочных явлений. Она лечит болезни, но неизбежно наносит и большой вред. Мировая ИИ-экосистема на нынешнем этапе развития сродни Бигфарме. Но в отличие от Бигфармы она вне государственного и частного контроля: и надзорного, и правового... На одной чаше весов — имитация мышления и удобство быстрого практического решения. На другой — недостоверность и бесконтрольность... Ментально-онтологическое программирование (если кратко, ментальное программирование) есть ответ на вызов ИИ. Это по сути зеркалирование искусственного интеллекта, своего рода анти-ИИ. Цель совершенно иная — не получение компьютерного помощника путём имитации поведения и мышления человека с последующей его заменой, а ментальное преобразование самого человека. Его мышления, его восприятия и поведения. Уже не человек должен улучшить компьютер, а найденные законы компьютерных наук должны улучшить человека. Человека грядущего... Ментальное программирование есть научная составляющая, математизация ментального зодчества. Иными словами, того, что предшествует всем наукам и искусствам, включая и философию. Ментальное программирование следует понимать как обобщённое отображение принципов, правил и законов компьютерного программирования на сложный ментальный мир человека, а, значит, и на ментальный мир общества. ›
- 2025. Гибель Есенина New
‹ С точки зрения анализа полноты и достоверности нет никакой принципиальной разницы между живым экспертом и системой искусственного интеллекта. Потому методы контроля можно применять те же самые. Есть и чисто формальный повод, который помог инициировать данный проект: в декабре этого года отмечается 100 лет со дня смерти Есенина. А это означает, что юбилейное событие стимулирует появление дополнительных материалов.
Что касается версий гибели Есенина. Каждая из них для нашего проекта ценна не столько выдвижением гипотез и предположений (что нормально для науки), сколько своим обоснованием. В котором авторы версий раскрывают сопутствующие обстоятельства и расставляют акценты — вводят собственные приоритеты значимости. В рамках этапа предпроектных исследований мы не только формировали и упорядочивали по степени значимости корпус доступных публикаций — книг и статей — но и предварительно анализировали официальные документы. Могу сказать, что там мы обнаружили довольно серьёзные проблемы. И в свете них версия самоубийства на данный момент выглядит неубедительно. Но это всё ещё очень предварительная оценка. ›
Партнеры
Сотрудничество
-
МГУ ( Москва ) / Московский государственный университет им. М. В. Ломоносова
МФТИ ( Москва ) / Московский физико-технический институт
МАИ ( Москва ) / Московский авиационный институт
ИТМО ( Петербург ) / Национальный исследовательский университет ИТМО
ETH ( Цюрих ) / Швейцарская высшая техническая школа Цюриха