Не понимаю как адепт системной инженерии не привел экономической и временнОй составляющих, но тут
1) гонка ведется с точки зрения и времени и денег.

2) Одновременно характер изменений таков, что Доллар инвестиций в ИКТ вообще и в ОКОЛО-ИИ сегодня и через 5 лет это 2 совершенно разных доллара даже не по количеству а по КАЧЕСТВУ.

3) В причинах - массовый параллелизм разработчиков и Дисраптор дисраптит дисраптора на каждом шагу,

4) поэтому тут (до момента П ) действует контринтуитивный закон "кто позже встал - того и тапки" (кто раньше встал -того и в топку, ага ))).

5) Отдельно про "момент П". Для каждой технологии он свой и через свои критерии. Для всяких соцсетей это например скорость роста количества пользователей а для оружия - скорость их уменьшения, ага )

6) Поэтому есть разные по качеству, возможностям и последствиям СМЫСЛЫ применения АИ. В период проведения (непрекращающихся) боевых действий важность имеют только то что прямо или косвенно влияет на выживание. Как чего выживания ? Ну не человечества-же, что за наивняк ?

7) В сингулярность человечество н проходит, вам же давно про размеры проходящих в нее систем прямо говорят (Через игольное ушко, Карл ! )

Оригинал взят у [livejournal.com profile] ailev в Об сопоставление вычислительной мощности мозга и современных нейронных сеток
Тусовки модельеров мозга, суперкомпьютерщиков разного сорта, глубоких обучальщиков (программистов, математиков, артигогов -- http://ailev.livejournal.com/1011621.html) бурно обсуждают разные сравнения вычислительной мощности мозга и современного компьютера. Наброс на вентилятор в этой волне обсуждений был тут: https://timdettmers.wordpress.com/2015/07/27/brain-vs-deep-learning-singularity/ (с выводом, что компьютерам до мозга ещё развиваться и развиваться), асимметричный ответ тут https://www.reddit.com/r/MachineLearning/comments/3eriyg/the_brain_vs_deep_learning_part_i_computational/, а дальше пошли клочки по закоулочкам: начали вытаскивать и старинные работы типа http://www.ncbi.nlm.nih.gov/pmc/articles/PMC3767911/ и экономические оценки типа http://aiimpacts.org/costs-of-human-level-hardware/ (в этом материале см. внизу страницы related posts, и там много-много ссылок на другие работы).

Мои две копейки на останов вентилятора:

1. Сравнение никому не нужно, важно это только с точки зрения пиара -- никаких выводов ни про сингулярность, ни про глупость компьютеров, ни про умность человека из этого сравнения сделать нельзя.

2. В нейронных сетках их целевая работа быстра, эффективна и требует очень мало памяти. Проблема не в работе, проблема в научении. Скажем, человека нужно учить 15 лет в школе и высшей школе. Зато после этого он легко решит какую-нибудь математическую задачку за день. Оценивать нужно не этот день, оценивать нужно те 15 лет, в них вся фишка. 365*15=5475, легко нашли дырку в три с полтиной порядка в оценках производительности. С нейронными сетками то же самое: при нанесении пользы они в тысячу раз быстрей, чем при обучении. FLOPS при этом не волнуют: не все архитектуры позволяют хорошо задействовать эти FLOPS -- архитектуры графических GPU тут не слишком хороши, а мозг тоже никто не проверял, насколько он в этом плане хорош.

3. Как говорил кот Матроскин, средства у нас есть, у нас ума не хватает -- важно, как распорядиться имеющимися FLOPS. То, что в изменениях алгоритмов можно легко найти ещё три порядка, это даже не вопрос. То, что эти самые FLOPS можно аппаратно развернуть в поддержку правильных алгоритмов, это тоже не вопрос. Более того, FLOPS бывают разные -- в сетках необязательна двойная точность, а какой именно минимальной должна быть одинарная точность мы ещё не знаем, и аппаратуру под это ещё толком не подстраивали, идут только первые эксперименты. Более того, эксперименты с аппаратурой "сделаем как в мозге" -- это неправильные эксперименты, это эксперименты с махолётами вместо экспериментов с самолётами или вертолётами.

4. Так что сравнивают бегемотов с апельсинами, удивляются такому разнообразию оценок в наш век точных измерений и научных расчётов. Пустое это. С другой стороны, есть нюх -- этот нюх показывает, что текущей аппаратной базы уже начинает хватать для решения ну очень крутых задач. Если суперкомпьютеры грузануть нейронной сеткой, а не моделированием атомных взрывов, их можно ой сколько чему интересному научить уже сегодня -- если сообразить, чему учить и как учить. Впрочем, Гугль и Фейсбук делают примерно это, только на кластерах с GPU, тоже интересно получается.

5. Скорость, конечно, является на сегодня сдерживающим фактором: лимитирует тут скорость обучения, оно сегодня запредельно медленное, а массово-параллельные алгоритмы только-только начинают предлагаться.

6. Но и скорость тут не главное: из одной и той же мокрой нейронной сетки (ага, wetware) можно научить Нобелевского лауреата, а можно (если учить будут звери) Маугли -- при этом даже не получится научить говорить, несмотря на всю предрасположенность человечьего мозга к речи. Вот это и есть лимитирующий фактор: нет наборов учебных данных, нет постановки учебных задач, нет понимания, как учить сетку, нет понимания, как комплексировать разное выученное, чтобы добиться универсализма. Тезис Lenat, что при решении большинства интересных задач задействуется неожиданно большое количество знаний common sence, и что по пути Eurisko (даже если ей выдать современный суперкомпьютер) быстро не продвинешься -- этот тезис остаётся верен до сих пор.

7. Хотя я всё думаю, что было бы, если бы взять Eurisko (1982-83) и реализовать её на GTX Titan X -- мне кажется, могло получиться примерно то же, что с нейронными сетками, когда им дали достаточно аппаратных ресурсов: результаты могли бы быть сногсшибающими. Можно было бы сделать "исторический" хакатон -- и тряхнуть той идеологической стариной на новый технологический лад. Learning by discovery может оказаться не такой плохой идеей на современных вычислительных ресурсах. Скорость и размер (памяти) таки имеют значение. Хотя NP-полные задачи и требуют себе экспоненциального роста вычислительных ресурсов, но именно такой рост нам и обеспечивал закон Мура некоторое время. И слишком высоко на экспоненте висящие в 1983 году плоды могут оказаться низко висящими в 2015 (а высоко висящими -- плоды, которые в 1983 году вообще не были видны). За время пути собачка смогла подрасти.

8. Моя оценка (и я её обсудил с разными людьми) -- что мощности сегодняшних 2000 GTX Titan X (это примерно $2млн., не бог весть какой суперкомпьютер) при понимании как ими пользоваться должно хватить для создания реально неглупого компьютерного собеседника (врача, юриста -- это "например"), причём за год. Не хватает сейчас главного: понимания, как такой вычислительной мощностью правильно пользоваться, как модуляризовать результирующую систему (например, как сочетать "жёсткую логику" и "интуицию и аналогии" -- в реальной работе они обе ведь участвуют), как поставить задачу на обучение и где брать для него данные, как тестировать результат. Вот это понимание и может легко растянуться до момента получения приемлемых результатов и на пять лет, и на десять. Плюс за эти пять или десять лет легко может измениться само понятие "приемлемых результатов".

9. Сегодняшняя ситуация такова, что довольно быстро выстраивается новый технологический стек, ряд новых технологических платформ. Нижние уровни (FPGA, GPU от NVIDIA, что-то от AMD, многоядерные процессоры от INTEL), языки (python, lua, c++, новички типа Julia -- языков тут уже хватает, как и везде), спецбиблиотеки (Theano, Caffe, Torch -- их десятки уже, если не сотни) -- и специфика предметной области сидит ровно тут: все настройки и оптимизации из прикладных задач постепенно уползут в эти библиотеки-фреймворки, которые станут скоро толстыми "платформами". Это важно, ибо если мы тут ускорим дело всего на порядок, то стартап чему-то научит свою сетку не за десять лет, а за год за ту же сумму денег. Ну, или за тот же год, но возьмёт на аппаратуру вдесятеро больше денег (если будет знать, как распараллелить это обучение, что тоже не факт).

10. Приложения -- и вот тут, где уже ближе всего к деньгам, тут у нас пока затык. Распознавание речи и аннотация фотографий это хорошо, но именно в области приложений должен произойти прорыв. С переводом с языка на язык (аннотация фотографий, кстати, частный случай перевода -- перевод с видеоязыка на какой-то естественный язык, всё то же самое) уже справляются не хуже, а даже лучше чем при традиционных иерархических парсерах -- https://drive.google.com/file/d/0B16RwCMQqrtdNUptOGtDeDhxZ0E/view, на бирже уже вовсю торгуют с техническим анализом (и пытаются прицепить фундаментальный анализ, хотя бы по открытым источникам), автомобили без водителя -- это про то же самое. Приложений уже тьма, но главные приложения наверняка не придумали ещё. Чемоданы с колёсиками придумали только в 80-х, до этого были только носильщики с тележками. И сложность ещё в том, что мало придумать приложение. Потом это приложение нужно будет научить -- а как его учить? Где брать данные для обучения? Вот это самое сложное. Следовательно, нужно будет как-то предобучать на том, где много данных, а потом доучивать на буквально единичных примерах -- и исправлять потом ошибки как у человека, который тоже на единичных примерах учится, и тоже попервОй учится плохо.

Итого:
-- плевать, сколько мощности у мозга и какой КПД полёта у птички. Нам мощности аппаратуры и сегодняшних алгоритмов уже хватает, чтобы низенько-низенько, но полететь.
-- приложения, как всегда в софте, важнее всего. Способ получения приложений -- не столько кодирование, сколько не-пойми-что на сегодня, артигогика (http://ailev.livejournal.com/1011621.html). Артигоги или как они иногда себя называют, коннекционисты, это то, что становится выше по технологическому стеку, чем программисты. Программисты становятся продолжением аппаратуры, они кодируют общие алгоритмы вместе с математиками, а ближе к пользователям будут уже -- не они, их ручной труд, их ручное кодирование там уже не нужно.
-- технологический стек, где сидят программисты и математики, важен: он может дать (возвращаясь к теме поста) тот порядок или даже пару порядков (а иногда и три порядка) запаса вычислительной мощности, которые позволят обучать приложение на тот самый порядок ли даже три порядка быстрее или качественнее (на выбор), и тем самым побеждать конкурентов. Но главный вывод: технологический стек уже достаточно развит (например, сегодняшняя самая большая наученная сетка -- 160млрд параметров, http://arxiv.org/abs/1506.02338), чтобы (повторюсь) низенько-низенько, но полететь.

А учёные, которые изучают мозг, моделируют мозг, сравнивают мозг с компьютерными чипами -- они учёные, пусть статьи пишут. Сравнивают 160млрд. параметров из самой большой наученной людьми нейросетки с 86млрд.нейронов мозга (http://compulenta.computerra.ru/archive/neuroscience/664455/). Это поможет, например, медикам. Примерно так же, как изучение аэродинамики птичек помогает орнитологам. А авиационщикам помогает изучение аэродинамики не птичек, а их самолётов. Так и создателям нейроприложений поможет не изучение устройства мозга и восхищение его вычислительными возможностями, а изобретение каких-то не связанных с мозгом алгоритмов и улучшение аппаратуры и языков программирования. Бионика хороша для отдельных примеров, она даёт нужную экзотику для научпопа. Бионика для массовой инженерии в больших дозах вредна, она отвлекает.

Because You'll need to describe Yourself from Your own point of view, and nobody alse can do it for You. And that's only one point You REALLY know =)

В тему технологической сингулярности : старое видео "Организационного пульса" группы компаний "Autodesk". Корпорации, а не жалкие трансгуманисты - вполне себе реальные агенты Сингулярности. Посмотрите видео и просто предстаьте совокупность процессов в corporate world top 1000. И 99% этих сущностей не нужны никакие средства Био-РПЖ, тк люди устаревают слишком быстро, а "перетечка мозгов" глобальна.
Человек уже догадался про "внутреннее время системы", про то что оно ускоряется, но не смог сделать еще пару элементарных выводов - что часть НТП, связанная с Иммортализмом тоже ускоряется и что в конце концов подберут твик и к внутреннему времени его системы, к нему самому. Человек независимо предсказал сингулярность, но не понял что это история о нем самом !

Приз ? Капица отправляется в Гумус вслед за посчитанными им 120 миллиардами людей живших до него.
http://www.snob.ru/magazine/entry/49621
Чикунов вот тут пишет, "Мы также убеждены, что современной цивилизации нужны ..." - и дальше идет список того что нужно людям на нижних ступенях пирамиды потребностей Маслоу.

Я искренне удивляюсь, как с такими понятиями пускают в Римский клуб ?

Так вот, на этой планете существует несколько цивилизаций - биологического выживания - которой действительно нужны эффективные инновации "в самых базовых потребностях ", цивилизация среднего класса и "человеческой культуры и ценностей" (и "теплых комфортных сортиров", ага) - которые нормально живут в рамках "человечины", технократическая цивилизация которая строит "Deus Ex Machina", ну и конечно сам "Deux" - совокупность отчужденных от человека знаний и технологий.

Первая и большая часть второй делятся скорее не по доходам а по потребностям, и соответственно результатам их деятельности, составляя нулевой цикл, 0-цикл - цикл переработки ресурсов с нулевой внешней пользой по отношению к другим социальным группам. Они будут продолжать "Жрать, Срать, Ржать" - пока не закончатся ресурсы. И только небольшая группа из технократической части цивилизации, нацеленная и порождающпя на т.н. "фудаментальные технологии" порождает что-то новое. И эта группа продолжает увеличивать свою продуктивность и эффективность.
В продолжении темы о масштабах НТП пример технологии, позволяющей приблизительно представить масштабы технологического зверя :

Пульс технологического зверя

Кто не понимает что на Пусси Райот, РПЦ, России, да даже и всем Гумус Сапиенс не то что свет клином не сошелся, а вообще о на них можно спокойно забыть и делать свои дела - человек без набора базовых знаний и достаточных понятийного и аналитического аппаратов =).
P.S. И да, "находясь на значительном удалении оно видится вот в другой перспективе" а тут у нас "что не учебник, то Ё-ый стыд". Но на то он у трансгуманиста и аналитический аппарат, чтобы не становиться концептуальной марионеткой у всяких там пусь и путиных
Вот и Турчин туда-же, "Путин и Сингулярность" =) http://turchin.livejournal.com/693454.html

А нет ведь никакой сингулярности-то! Есть:
1) разрозненые события,
2) которые ускоряются
3) каждый из смыслов которых (по сути достижений в "фундаментальной технологии") доходит до каждого из нас по разному и с разной скоростью.

А поэтому собственно изнутри сингулярности, (как инсайдер) ее не заметить, потому ты сам занимаешься только своим винтиком, а остальное для тебя это "просто события", а "снаружи", то есть (не вовлеченно), тоже - так как либо не поймешь либо не успеешь понять. А мы все в основном снаружи.Единицы, кто шапошно знаком со всем, смогут что-то понять. Процесс то глобален и независим от отдельных стран и корпораций, как глобальны активные сущности этого процесса.

Пара иллюстраций о "размерах зверя" :

Мировые расходы на НИОКР в 2011 году составят $1,2 триллиона http://www.vesti.ru/doc.html?id=414734
те же данные в "USR" ниже. Мировое ВВП более $70 триллионов (источник - USR, UNESCO Science Report 2010)
http://unesdoc.unesco.org/images/0018/001898/189883R.pdf Накопленные активы (сумма "национальных богатств") в мире по данным всемирного банка около $550трлн, половина из которых у у Франции, Германии, Италии, Канады, Японии, США, Великобритании - то есть стран, активно инвестирующих в НИОКР . Совокупная капитализация компаний на NYSE - $26 трлн NASDAQ - $5.5 трлн (Биржевая капитализация компаний может составлять в среднем 10 — 100 годовых оборотов). Только В России общий объем национального богатства составляет $60 трлн: 90% – основной капитал, и оставшиеся 10% распределяются между имуществом домашних хозяйств и оборотным капиталом.Где более 30 трлн долл. составляет природно-ресурсный.За период 1895—2000 гг. физический объем национального богатства России увеличился в 32 раза.

Крупнейшие НИОКР и технологические проекты:

Международная космическая станция (МКС) $100Млрд
International Thermonuclear Experimental Reactor (ITER) $12–15 млрд
Большой адронный коллайдер $10 млрд
Космический телескоп «Джеймс Вебб» $4,5 млрд
National Ignition Facility (NIF) $3,9 млрд

итп.

Так что, наивные детишки, ну какое еще нафик "управление сингулярностью" ? =)
Часто попадаются тексты в таких сентенциях, что мол дела в H+, Крио, Имм (нужное подчеркнуть) плохи, что ничего не происходит и что делать не знаем сами. в общем сплошные ужосы кащмара, причем измеренные не в попугаях датчиков пятой точки, а в неких "объективных показателях".

что я есть имю сказать по этому поводу? "Есть ли у вас план, мистер Фикс?"

Во первых интересно спросить, а что сопсно оценивается ? 1)Весь НТП вообще, 2) часть НТП относящаяся к ТГ, имм, крио итп...(в НИИ и РнД отделах компаний) или 3) сопсно профильные (в основном идеологические) организации ?

Как только слышите речь про 1 или 2 (не важно на государственном или мировом уровне) - смело тушите свет. Речь об неадекватных людях дальше не пойдет (о причинах если кому инетресно напишу позже).

Если же речь о (3) - то с начала поинтересуйтесь, о чем речь : о предметной или идеологической части. Если о предметной части - смело тушите свет. Речь об неадекватных людях дальше не пойдет. (о причинах если кому инетресно напишу позже).

А если об идеологической, то .... сопсно, что удивительно то-же самое, только требуется слегка объяснить в чем заключается неадекватность. ТГ как философия стремительно распространяется. Динамике роста позавидует любая другая идеологическая организация. Это происходит как по причинам ретроспективности тенденции к ТГ так и практически (для ряда актуально существующих сценариев) его безальтернативности в будушем.

Но ведь плох тот идеолог который не мечтает стать ГенСеком ? То есть начать влиять на НТП и основные объемы ресурсов. Ребята, смею вас огорчить - это совсем из другой оперы, с собственно ТГ не связанной. В чем же еще заключается неадекватность ?

Во первых, обычно никаких объективных показателей эффективности (например организации) не существует или они не меряются. Для ТГ организаций существующего уровня зрелости это просто невозможно. Читайте какой нибудь capability maturity model.

Во вторых, за (не)прогресс выдается путнациа из идеологических и предметных критериев. Хотя даже в экономике всегда можно найти падающие показатели и строить от них свою полемику(обычно носящую качественный характер).

В третьих, смешиваются личные ресурсные ограничения и ограничения вообще. Предлагается "бороться за чистоту" вместо уборки у себя дома, или перезда в благополучный район в связи с личными культурными ограничениями.

В четвертых за эталонные берутся некие представления с потолка о том что все должно быть именно так и именно с такой скоростью. Это как сравнивать производительность одного и того-же мозга под стимулирующим и под седативным воздействием.

В пятых берется некий способ действия и он объявляется новым и эффективным (но к сожалению недораспространенным), вместо того чтобы смотреть вокруг как это устроено и работает повсеместно.

Отсюда (ВНЕЗАПНО) ряд граблей.

И да ! Я реалист. Парадоксальность ситуации в том что ТГ, Имм, Крио организация должна и обязана обострять и драматизировать. Это нормально, естественно, так делают все. В продажах это называется "актуализация намерения". Особеность этого (как и любого другого) метода лишь в том, что его нужно исполнять "с душой" и "по случаю" + комбинировать с другими методами. Иначе клиенту станет скучно.

Еще ТГ организации просто обязаны заниматься ТГ. Нужен он или не нужен конкретному потребителю его продуктов с его личными ресурсами и возможностями и в каком объеме и качестве. Это вопрос самосохранения, иначе они просто перестанут быть ТГ организациями. Конфликт личного , корпоративного и общественного - тема давно раскрытая. Читатель может легко ознакомится с этим вопросом в доступных источниках.

Еще например куда приткнуть ТГ который ТГ делает или использует но совершенно не называет себя или то что делает ТГ. Если он уже в "ценностном поле" ТГ - то роль ТГ организации втянуть его в "поле именования" (понятийное поле) ТГ. Зачем ? Ну такова роль организаций =).
Технологическая сингулярность это функция человеко-машинной кибернетической системы. Вопрос здесь не столько количественный, то есть не столько в том, какая часть принадлежит машинам а какая человеку (ПОНЯТНО ЧТО ОНА ПЛАВАЕТ ВО ВРЕМЕНИ И МОЖНО РАЗДЕЛЯТЬ РЕАЛЬНУЮ И ИДЕАЛЬНУЮ ПРОПОРЦИЮ). А насколько она хорошо работает каждая сама по себе и совместно. Как и то, что сингулярность возможна и на чисто биологическом интерфейсе. Об этих проблематиках хорошо и подробно пишет [livejournal.com profile] ailev (например здесь http://ailev.livejournal.com/762923.html, но не только. У него есть и более Науч-попные посты.)

Отсюда совершенно очевидно становится то что с точки зрения т.н. "Фундаментальной технологии" совершенно неважно, будет ли постчеловек "создан" в одном экземпляре или их будет больше. Благо что R&D конкретной технологии сoставляет обычно единицы процентов бюджета любой компании.
Stormos пишет: что тоже количество лишнего хлеба можно было бы производить меньшим числом фермеров, а значит и меньшим числом всех остальных занятых в производстве.

известная проблема. ее осознание случилось в тридцатые годы прошлого века.
инновации привели к тому, что товары стали производиться так легко, что их, товаров, стало больше чем нужно людям. то есть новых людей было чем кормить, но нечем было занять.
можно было занять войной или хоровым пением. в ученых ведь быстро не переделать.
но бомба сделала войну кровавым балетом, а хоровое пение проиграло телевидению. еще хуже, что люди с высшим образованием ленились создавать и пошли в юристы.

То есть проще говоря заниматься распределением для эндюзера стало выгоднее создания. (слишком много производят) и способностей создавать не хватает, да и потребности потребителей не дотягивают до фантазий разработчиков.

Проблема частично решается снижением рождаемости
остается проблема снижения удельного интеллектуального потенциала коллектива с ростом числа его участников.

Еще одним симптомом нулевого цикла являются Завышенные стандарты жизни в обществе, например стандарты стоимости и площади жилья на человека, которые требуют значительно больших объемов строительства и затрат каждого отдельного человека на эти завышенные стандарты. А так-же усиливают атомизацию общества. И эти сверхзатраты так-же непродуктивны и непроизводительны. И так-же участвуют в бесполезном переводе ресурсов на гумус.


Опубликовано с мобильного портала m.lj.ru
В любой экономике можно представить своеобразный социально-экономический "нулевой цикл" - ресурсы затрачиваемые на самого себя и не направленные на модернизацию, повышение производительности итп...

Пример социальной структуры:
Read more... )

Посмотрев на эту систему напрашиваются следующие выводы :

Во первых, (по крайней мере часть) этой системы замкнута сама на себя - кормят себя, поят обувают одевают итп....

Во вторых, при удалении скажем, по 1 человеку из каждой касты ( речь скорее о Функциях скорее чем собственно людях) освободится как человеческие, материальные и финансовые ресурсы. При том-же количестве полезного "экспорта" этой соц. структуры.

В третьих, допустим если в этой пищевой пирамиде есть некий инновационный выход, скажем 10 ученых - то на них удаление этого нулевого цикла никак не повлияет.

"Нулевые циклы" возникают при отсутствии планирования и приводят к излишней конкуренции и затрачиваемым ресурсам.

Вывод напрашивается сам за себя. Что думаете ? Каменты профессиональных экономистов и социологов приветствуются =) !

Profile

immortaz

January 2017

S M T W T F S
12345 6 7
891011121314
15161718192021
22232425262728
293031    

Syndicate

RSS Atom

Most Popular Tags

Style Credit

Expand Cut Tags

No cut tags
Page generated Sep. 25th, 2017 01:11 pm
Powered by Dreamwidth Studios