помогите найти цитату

если кто-то в состоянии прилететь на Землю, то ему гораздо проще найти ресурсы у себя поблизости ) Как и удобные для жизни планеты.

Это тоже всего лишь предположения.

А вообще, я лишь обращал внимание на комплекс автор топика перед «инопланетянами», наверняка, имеющий корни, подобные комплексам перед «белыми людьми».

чем несколько(кило)граммовую самореплицирующуюся фабрику.

Расскажите как вы себе представляете самореплицирующуюся фабрику

Уже сейчас видно, что ИИ не будут туповатыми логиками,

Расскажите по каким признакам вам это видно

Это тоже всего лишь предположения.

Какие же это предположения, если это следует из элементарных физических законов. Ресурсы на массовый прилет на далекие звезды нужны не меньшие, чем их можно почерпнуть на нашей планетке )

Непонятно, откуда такая уверенность, если мы даже не знаем, как эти гипотетические инопланетяне перемещаются между звёздами и планетами. Может они через другие измерения могут ходить по всей галактику, как мы по магазинам.

Расскажите как вы себе представляете самореплицирующуюся фабрику

У нас есть биологические самореплицирующиеся структуры: клетки. Вот, то же самое, но с учётом технических требований межзвёздных перелётов, условий на пункте назначения и конечного продукта (тормозные станции для приёма прилетающих кораблей, терраформирование и т.п.). Какие именно инженерные решения будут для этого оптимальны, я, естественно, предсказать не могу. Может быть будет псевдо-биологическая стадия, основанная на углеводородных репликаторах и солнечной энергии для первоначального получения ресурсов (кремний, редкоземельные металлы и прочее), требующихся для построения технологической инфраструктуры. Может быть диамондоидные наноконструкторы и солнечные панели.

Расскажите по каким признакам вам это видно

Поговорите с большими языковыми моделями: chat.openai.com , beta.character.ai . Они замечательно умеют воспроизводить человеческое поведение. Так что какие-бы надстройки над ними не строили, для ИИ остаётся опция проверить «А что бы на моём месте сделал мой неотёсанный паукоподобный создатель?», вместо того, чтобы зациклиться.

Непонятно, откуда такая уверенность, если мы даже не знаем, как эти гипотетические инопланетяне перемещаются между звёздами и планетами

Если они перемещаются в нашей вселенной - они перемещаются по таким же физическим законам.

Может они через другие измерения могут ходить по всей галактику, как мы по магазинам.

Ага, могут ходить по измерениям и им до зарезу понадобились мы и наши ресурсы. С бОльшим успехом можно ожидать что к вам заявится домой лично президент потому что ему понадобилось что-то из вашей квартиры. Да и ходить по измерениям наша физика предполагает лишь через черные дыры, что получится еще затратнее, чем неторопливо летать классическим способом

У нас есть биологические самореплицирующиеся структуры: клетки. Вот, то же самое

Чтобы биологические структуры размножались - им нужно обеспечить массу ресурсов. А технические структуры размножаться не умеют и никаких признаков этого нет.

Поговорите с большими языковыми моделями: chat.openai.com , beta.character.ai . Они замечательно умеют воспроизводить человеческое поведение.

Они не воспроизводят человеческое поведение, они его пародируют в соответствии с заложенными в них алгоритмами. Это не ИИ

Мне так и не понятно, зачем прилетать за ресурсами на обитаемую планету, если необитаемых наверно в миллионы раз больше?

А поговорить?

Если они перемещаются в нашей вселенной - они перемещаются по таким же физическим законам.

Я наверное пропустил момент открытия всех физических законов людьми.

могут ходить по измерениям и им до зарезу понадобились мы и наши ресурсы

Не вижу ничего странного. Может им нефть и не нужна, а нужна сама наша планета, чтобы на пикник выезжать))

Чтобы биологические структуры размножались - им нужно обеспечить массу ресурсов.

Которых на Земле вполне достаточно.

А технические структуры размножаться не умеют и никаких признаков этого нет.

Да-ну? Завод построенный роботами, вместо прораба с бригадой - это несбыточная мечта? Почему?

Это не ИИ

Это ИИ - большие языковые модели показывают отличные результаты в поиске математических доказательств, программировании, переводах с языка на язык, управлении роботами, планировании действий и пр.

Если только

Я наверное пропустил момент открытия всех физических законов людьми.

Ждете чуда среди еще не открытых законов?

Может им нефть и не нужна, а нужна сама наша планета, чтобы на пикник выезжать))

Бордель открыть.

Ждете чуда среди еще не открытых законов?

Ну, квантмех оказался чудом со всякими интересными эффектами, так что почему бы нет.

Бордель открыть.

Вот кстати будет злой прикол, если вокруг нас уберцивилизации омерзительных жестоких похотливых существ типа огромных пауков или склизких осьминогов, а люди окажутся для них сексуально привлекательными.

Которых на Земле вполне достаточно.

Так вы же хотите чтобы какие-то фоннеймановские боты летали по космосу и при этом размножались

Завод построенный роботами, вместо прораба с бригадой - это несбыточная мечта? Почему?

Потому что мало построить завод, его надо снабжать и всех этих роботов обслуживать. К заводу, чтобы он работал, нужна цивилизация

Это ИИ - большие языковые модели показывают отличные результаты в поиске математических доказательств,

Это все алгоритмы, как у роботов, играющих в шахматы.

переводах с языка на язык, управлении роботами, планировании действий и пр.

Это все заложенные алгоритмы и никакого интеллекта

Вот кстати будет злой прикол, если вокруг нас уберцивилизации омерзительных жестоких похотливых существ типа огромных пауков или склизких осьминогов, а люди окажутся для них сексуально привлекательными.

А сами эти пауки и осьминоги значит непривлекательны и размножаются с отвращением. Как после отвратина у того же Лема. Разве что как спецбордель для извращенцев типа зоофилов. «Я тут надысь на Землю слетал…» - «Фу-уу!»

А сами эти пауки и осьминоги значит непривлекательны и размножаются с отвращением

Ну не то чтобы с отвращением, просто исполняют размноженческий долг без энтузиазма. А тут такие куколки!

А тут такие куколки!

Еще неизвестно какой пол у них будет за куколок

Все будем Снежанами 😄

Так вы же хотите чтобы какие-то фоннеймановские боты летали по космосу и при этом размножались

Энергия есть везде (центральная звезда). Углерод - на шестом месте по распространенности, водород на первом. Планеты с водой тоже обнаруживаются (если ограничиться только наблюдаемыми на Земле биологическими процессами, а от возможности конструирования других саморепликаторов открещиваться всеми конечностями).

К заводу, чтобы он работал, нужна цивилизация

Будет искусственная цивилизация. Возможно с (псевдо)биологической затравкой.

Это все алгоритмы, как у роботов, играющих в шахматы.

Whatever. Такой уровень спора не интересует. Можно, конечно, сказать о физическом тезисе Чёрча-Тьюрига, и что нет никаких предпосылок того, что человеческий мозг его нарушает, но не думаю, что будет интересно.

Земля может быть ближайшей планетой с гарантировано(не в теории, а 100% подтверждёнными) подходящими условиями(Лю Цысинь «Задача трёх тел»).

А может быть потенциально опасной цивилизацией с неизвестными намерениями - теория тёмного леса из продолжения той же «Задачи трёх тел».

А может просто лежать на пути межгалактической магистрали(Дуглас Адамс «Автостопом по галактике»).

А может быть, Земля сама по себе вообще не критична, просто пролетающему мимо космическому кораблю и по совместительству мощнейшему оружию в двух вселенных хотелось кушать(Lexx).

Это так, навскидку.

Во всех этих случаях потенциальные инопланетяне ни разу не злобные и так или иначе уничтожают или стремятся уничтожить Землю по своим собственным исключительно прагматичным причинам. Ничего личного. Но с точки зрения нас, живущих на этой планете, это явная агрессия.

Энергия есть везде

А для функционирования нужна не просто энергия, а в нужной форме и в нужном количестве. То есть множество преобразователей и других сложных технических производств, без человека невозможных.

Будет искусственная цивилизация.

Не будет.

Такой уровень спора не интересует.

Я с вами не спорю, я объясняю ваши заблуждения. Искусственный интеллект - это популярный журналисткий штамп и ничего больше. Любое творение под названием «ИИ» работает по запрограммированным человеком алгоритмам.

Можно, конечно, сказать о физическом тезисе Чёрча-Тьюрига

Вычисления - это не интеллект, это механизм.

Не объясняете, а изрекаете какие-то максимы, безо всяких попыток обоснования.

Хорошо, пусть будет не «объясняю», а «напоминаю». В самом деле, не объяснять же такие несложные вещи.

Традиции - это хорошо. Но скучно. Тысячи лет повторяют одно и то же. Эккл. 1:9 «Что было, то и будет; и что делалось, то и будет делаться, и нет ничего нового под солнцем.»

Любое творение под названием «ИИ» работает по запрограммированным человеком алгоритмам.

а если работа мозга будет полностью изучена, будет на основе естественного построен искуственный и будет обучен, тогда это будет настоящий искуственный интеллект?

Разве дело в традициях? Пока что нет ничего, занимающего пропасть между сознанием человека и симулирующего отдельные действия человека компьютером. Человек даже приблизительно не представляет как работает его собственный интеллект, не решив этого он будет продолжать создавать отдаленно напоминающих человека надувных кукол.

А фантазировать-мечтать конечно можно

а если работа мозга будет полностью изучена

Фишка в том, что сознание и работа мозга - это совершенно разные вещи. Можно как угодно детально разложить движение ионов и электрических импульсов по мозгу, но это ни капли не продвинет к пониманию сознания. Оно не механистично, вот в чем проблема.

но все же оно работает, а значит, работает по законам физики, которые еще не открыты, кажется мы с вами на эту тему уже говорили

Как я понимаю, на chat.character.ai не заходили, за последними достижениями в области ИИ не следили, про беспокойство в среде иллюстраторов в связи с бездушными генерилками картин по описанию, которые тем не менее могут этих иллюстраторов вытеснить с рынка труда, не слышали, критериев, которые переведут ИИ из категории «надувных кукол» в категорию «интеллект», не имеете. Ну, ок.

но все же оно работает, а значит, работает по законам физики,

Оно не может работать по законам физики, физика не занимается вопросами сознания.

Все, что вы перечислили - это алгоритмы, занимающиеся перекомпиляцией того, что они вытаскивают из интернета и своих баз данных по определенным правилам. Если хотите почитать что-нибудь более осмысленное на тему сознания и ИИ, чем эти жалкие рисовалки, сочинялки и говорилки - прочитайте хотя бы это:

https://habr.com/ru/post/500732/

Как видите - проблема идет не столько по пути понимания того, как работает интеллект человека, а по пути снижения планки того, что можно считать интеллектом. Путь, на котором порогом считается то, чтобы средненедоразвитый гражданин не смог отличить ИИ от И - профанация понимания интеллекта. Сознание - как айсберг, основная его часть находится в глубине, внешние его проявления в поведении человека - мизерная часть.

в прошлый раз вы сказали что-то подобное, я сказал, что до открытия электричества физика не занималась электричеством

Я же не запрещаю вам мечтать на тему, что вдруг однажды физика займется сознанием, биологией, психологией, экономикой или педагогикой.

Планка постоянно повышается. Шахматы, го, старкрафт, покер, «Дипломатия» (такая игра, где игроки общаются на естественном языке), создание изображений по описанию, доказательство теорем, участие в конкурсах по программированию, управление роботами не в лабораторной среде, диалог, сложно отличимый от диалога с человеком и т.д. и т.п.

100 миллиардов параметров, образующих структуры, о которых создатели сети понятия не имели (induction heads, например), по-моему, вполне себе такая подводная часть айсберга.

ну когда-то это был вопрос религии, с развитием физики это стало вопросом физики

https://ru.wikipedia.org/wiki/%D0%9E%D0%B3%D0%BD%D0%B8_%D1%81%D0%B2%D1%8F%D1%82%D0%BE%D0%B3%D0%BE_%D0%AD%D0%BB%D1%8C%D0%BC%D0%B0#:~:text=Saint%20Elmo's%20fire%2C%20Saint%20Elmo's,%D1%82%D0%B5%D0%BB%D0%B0%20%D1%87%D0%B5%D0%BB%D0%BE%D0%B2%D0%B5%D0%BA%D0%B0)%20%D0%BF%D1%80%D0%B8%20%D0%BE%D1%87%D0%B5%D0%BD%D1%8C%20%D0%B1%D0%BE%D0%BB%D1%8C%D1%88%D0%BE%D0%B9

Планка постоянно повышается. Шахматы, го, старкрафт, покер,

Это по прежнему не интеллект не в малейшей степени. Это доработка алгоритма игры в шахматы, го, покер и так далее.

создание изображений по описанию

Это не интеллект, это алгоритм поиска и рисования.

100 миллиардов параметров, образующих структуры, о которых создатели сети понятия не имели (induction heads, например), по-моему, вполне себе такая подводная часть айсберга.

С технарями сложно разговаривать на тему ИИ, потому что они как правило ничего не читали на тему сознания, интеллекта, самосознания (это труды биологов, нейрофизиологов, философов), а лишь пытаются подогнать известные им новости из компьютерной среды под свое представление о сознании.

Тогда уж вы сначала выясните, что такое сознание и зачем оно нужно для решения задач. И какие критерии его отсутствия в существующих системах ИИ.

Я же сказал - я вам не запрещаю мечтать о том, что физика займется вопросами сознания, к чему эти экскурсы в средние века? Физика по определению не занимается изучением природы и поведения человека, зачем вы пытаетесь ей навязать принципиально чуждое?

Тогда уж вы сначала выясните, что такое сознание и зачем оно нужно для решения задач

Вы уже совсем скатились в профанацию. Сознание - это совсем иное, чем решение прикладных задач.

Сознание - это совсем иное, чем решение прикладных задач.

То есть вы не возражаете, что ИИ будет способен делать всё то же что и люди? Построить искусственную цивилизацию, например.

И мы такие, какие есть, не потому что нас такими создали или благодаря рандому, а потому что такое развитие было наиболее эффективным.

Ты не пытался подвергать сомнению сам ретроспективный по природе логический аппарат, который выстраивает такую цепочку. А вдруг таки рандом и вариантов сильно больше одного?

Я вот что-то большой эффективности не наблюдаю.

То есть вы не возражаете, что ИИ будет способен делать всё то же что и люди?

Вы опять пытаетесь свести все к «делать», то есть принципиально желаете оставаться на позиции человека, ничего не знающего о сознании. Вы можете создать робота, который будет ежедневно ездить на работу с перерывом на обед, а на работе писать софт. Это не интеллект и не сознание. Сознание - это то, что творится у вас в голове когда вы смотрите кино, читаете книгу, занимаетесь сексом, переживаете за близких, нюхаете аромат цветов из детства. И это тоже будет очень небольшая часть сознания, но хотя бы это уже не тот тупой симулякр сознаниея, который вы называете ИИ.

Всё начиналось с вопроса о невозможности фон-нейманновских ботов. А теперь уже какие-то цветочки пошли. Soft sciences такие мягкие и гибкие, из рук выскальзывают.

Цитирую: «А технические структуры размножаться не умеют и никаких признаков этого нет.»

Построить производственный цикл они не смогут, потому что интеллект у них ненастоящий, а интеллект у них ненастоящий, потому что сознания нет, но сознание - это не для практических целей, поэтому построить что-то они таки смогут?

Сознание - это совсем иное, чем решение прикладных задач.

Что такое сознание до сих пор точно не известно, единственное что мы про него знаем наверняка - то, что оно возникло (и не исчезло под давлением естественного отбора, что не менее важно) именно что для решения прикладных задач.

Есть мнения, что под давлением общественного отбора таки начинает исчезать :-)

Остроумно, но нет) Интеллект в принципе нужен чтобы решать такие задачи, в том числе и множить на нуль давление общественного отбора 🙂

Я бы спорил уже только с этим:

Интеллект в принципе нужен

Зачем ты бы с этим спорил?

Потому что миллионы лет жизнь процветала без всякого интеллекта и вдруг он стал нужен. Я вот не уверен, что его наличие дало мне преимущества, например когда созерцаю своего кота.