Дем писать такую программу, которая будет в конечном итоге каким-то

подобием ИИ? Ясно, что долго. Более того, человечество уже пишет такие программы более полувека. Этот процесс поиска можно упростить? Думаю, да. Если мы пишем программы, чтобы получить ИИ, то нам нужна программа, которая будет делать это за нас.
Итак, первая, достаточно сильная стадия ИИ – это программа, которая пишет программы. Т.е. сначала без работы останутся программисты.
И вот вам поле для деятельности – напишите программу, которая будет уметь писать программы. Пусть эти программы будут узко-заточенные, специализированные и какие угодно. Что действительно важно – это то, что мы будем анализировать методы и приемы, которыми вы пользовались. Рано или поздно мы найдем, чем отличаются программы, которые могут писать программы от тех, которые не могут. Потом мы продвинемся еще немного и получим программу, которая будет писать сама себе свой код, изменяя его под какие-нибудь нужды, развиваясь и мутируя самостоятельно под давлением среды, то бишь под нашим взором на возложенные на нее обязанности.
Интересно отметить, что программы, которые пишут другие программы, уже существуют. Это трансляторы и компиляторы – одни из сложнейших произведений ума человеческого. Компиляторы понимают какой-то язык программирования (и заметьте! Язык программирования – это человеческий язык, хоть и весьма обрезанный). Да, они не понимают смысла, но токарь тоже не обязан понимать смысла вала, который он изготавливает. От компиляторов не требовали раньше «понимание смысла».
Программа, которая пишет сама себя. Это наша цель на ближайшее будущее.
Квайны – чисто математическая задача. Это программы, которые выдают на выходе свой собственный исходный код, не прибегая к предельным случаям (чтение из файла, использование памяти интерпретатора и проч.). Просто выдают свой исходный код в точности. Легко сформулировать, но сложно сделать.
Теперь предлагаю взглянуть на процесс снизу вверх. Так сказать, план на ближайшие 85 лет.
1.Разработка программ, способных писать другие программы и изучение парадигмы самовоспроизводства.
2.Поиск лучших программ, способных менять свой собственный код.
3.1-ая сигнулярность. Мы уже не переписываем код заново, не программируем сами. ИИ уже родился, и он устойчиво функционирует, но только как ребенок. Он развивается очень быстро под нашим руководством. Но делает это сам. Новые типы компьютеров – квантовые? Интернет – это ИИ. ИИ – это интернет.
4.Взрослый ИИ, равный человеческому. Он создает свои улучшенные копии под нашим контролем. Разнообразные носители для искусственного интеллекта.
5.ИИ входит в нашу жизнь и общество, являясь полноправным членом человечества. Медицина, образование, производство и наука, космос – ИИ везде. Прогресс набирает колоссальные обороты. Мозг человека изучен и покорен. ИИ превосходит нас.
6.2-ая сингулярность. Расы искусственного интеллекта. Роботы. Жизнь продлевается на неограниченный срок (бессмертие первого вида).
7.Искусственное тело, сознание перемещается и копируется в разные носители. Аватар. Матрица. Разница между искусственным интеллектом и естественным потихоньку стирается. Интеграция. Покорение Галактики и ближайших Галактик.
8.3-я сингулярность. Бессмертие. Поток сознания бессмертного богочеловечества, имея по сути бесконечный потенциал, создает новую Вселенную.

Вот такой сценарий фантастического блокбастера, в который Аватар и Матрица входят как 5-минутные вставки в середину фильма.
Я оцениваю перспективу так. 1-ую сингулярность мы достигнем к 2020-2025гг. 2-ая сингулярность должна быть достигнута к 2045-2050гг. Если это будет выполнено, то 3-я будет уже в 2100 году.
Всего наилучшего.
Продолжение следует… А может и не следует. Кто знает наверняка?

Программа, которая пишет программы - это уже AGI. Проблема курицы и яйца, получается

Не знаю как для остальных, а по мне так очень вдохновляющее эссе вышло