Комментарии 322
Не знаю, как насчет вымирания программирования (скорее всего вряд ли), а вот качественные статьи (не берите на свой счет), действительно могут легко затеряться в море бесполезного генеративного контента, что действительно можно сравнить с их вымиранием.
Давно замечаю за собой, что не читаю статьи, а сразу захожу в комментарии. Наверное это форма генеративной слепоты, хочется читать что люди пишут. Извините что я им подсказал.
Я тоже. Наверно и на Хабре о чем-то таком догадываются :-)
Я уже на пути к этому. Перечитываю начало и конец каждого абзаца, а потом ныряю в коменты 😁
комментарии тоже будут писаться ChatGPT
для самого себя
Статья автора - это полное погружение в мир современных технологий! Я в восторге от того, насколько качественно и доступно автор раскрывает тему. Это как путешествие в удивительный мир цифрового прогресса, где каждая деталь тщательно проработана. Статья не просто информативна, она вдохновляет и мотивирует к изучению IT-сферы. Браво за такую увлекательную подачу информации!
Как-то слишком позитивно сгенерировалось
На некоторых ресурсах (судя по хвалебному тону) комментарии тоже генерируют боты.
спасибо яндексу, краткий пересказ позволяет быстро "глянуть" о чем речь, но, разумеется, он применяется уже после комментов. )) Осталась дождаться краткого пересказа реакции аудитории и индивидуальной подстройки этих "пересказов" и статьи для меня будут выглядеть примерно так: " Эта статья ниачом, хайп на теме такой-то, ну и реклама телеги автора, камментов много, есть прикольные, с ними можно ознакомится. А эта статья неплоха, автор шарит в теме такой-то, подробно разбирает детали и делает такие-то выводы, в комментариях мнения разделились, идут жаркие споры".
это форма генеративной слепоты
Да вряд ли. Это (переход к комментам) всегда было так. Статья это "вода"+"очевидные вещи"+"пара спорных косяков и интересных вещей". Комментаторы в своем комменте очищают статью от первых двух вещей, поэтому основной акцент статьи проще увидеть в комментариях, которые по сути краткая рецензия.
Во, оказывается я не одинок. Тоже давно, еще до бума жпт ботов заметил, что сначала читаю заголовок, если он интересен иду в комментарии, а если по комментриям статья стоящая, то читаю ее. Но чаще останавливаюсь на комментариях.
не читаю статьи, а сразу захожу в комментарии.
бывает даже комментирую, не читая статьи..
Но ведь чтобы годные комменты появились, их авторы всё же должны прочитать статью...
Только если статья не писалась чатботом (что, похоже, стало редкостью)
Вот совсем не обязательно. О содержимом статьи можно составить представление по другим комментам. И ответный годный коммент может быть не по статье, а по теме статьи (коммента).
и как показывают наблюдения, комменты в основном пишутся на комменты, а не на статью.
Это сработает только пока ИИ до написания комментариев не доберется ))
Я считаю, что статья представляет собой предвзятую и недостаточно обоснованную точку зрения на влияние ИИ на профессию программиста. Она преувеличивает опасность полного исчезновения работы для программистов из-за развития ИИ, не учитывая, что ИИ может стать дополнительным инструментом, а не заменителем.
Статья предполагает, что ИИ может полностью заменить классические компьютерные науки, что, на мой взгляд, является неправдоподобным. ИИ может автоматизировать некоторые задачи, но это не означает, что программисты станут безработными. Вместо этого, они могут переключиться на более сложные и творческие задачи, которые требуют человеческого творчества и интуиции.
Кроме того, Статья предлагает обучение и гибкость мышления как решение для будущего. Это может быть полезным, но она не объясняет, как именно эти навыки могут помочь программистам адаптироваться к ИИ. Например, она не обсуждает, как программисты могут использовать ИИ для улучшения своих рабочих процессов или как ИИ может помочь в разработке новых технологий.
не берите на свой счёт(берите)
Я думаю решением этой проблемы станет социальная сеть, ориентированная на подтверждение участниками друг друга, что они являются реальными людьми. У каждого аккаунта будет свой вес в диапазоне от 0.0 до 1.0, чем он выше - тем выше вероятность, что он является человеком. Вес аккаунта будет рассчитываться на основа количества других участников, которые подтверждают его человечность. А также на основе личных весов этих участников, так что насоздавать миллион ботов и нафармить кому-то "человечность" не выйдет - у ботов будет вес в районе нуля и их голоса не будут стоить ничего.
У каждого аккаунта будет своя цифровая подпись и в мире недалёкого будущего вообще станет хорошим тоном всегда подписывать свои статьи, если хочешь, чтобы их хоть кто-то читал. Соответственно, получая в поисковой выдаче статью, вы по её подписи каждый сможет однозначно связать её с аккаунтом и по степени его человечности принять самостоятельное решение, достаточно ли степень высокая, чтобы продолжать чтение.
А в будущем, когда искусственный интеллект разовьётся до обретения разумности, он тоже начнёт пользоваться этой сетью, но оценивать уже наоборот: 0.0 это информация заслуживающая доверия, ибо вышла из-под пера Машины, а 1.0 это мусор за авторством несовершенных и подверженных эмоциям людишек.
Любопытно будет поглядеть на такое "перетягивание каната", главное дожить.
Небольшая ферма живых людей нафармит все как надо нужным аккаунтам. И заминусует ненужные.
Это все не работает на сколь либо большом масштабе. Слишком просто и дешево накручивается как надо.
Это можно законтрить путём ввода дополнительной галки или коэффициента "заслуживает доверия".
Да, человек может поучаствовать в накрутке, но только до первого скандала, когда это выплывет наружу. После чего он теряет доверие и вес его голоса становится равным нулю.
Важный момент: галка доверия хранится не в целевом аккаунте, а у пользователя и относительно каждого чужого аккаунта она отдельная. Это позволяет подстраивать алгоритм доверия по усмотрению пользователя. Кто-то будет непрощающим и полностью лишать доверия после первой же оплошности. Кто-то будет давать 2-3 шанса на случай ошибки или взлома компьютера и попытки подставить. А кто-то вообще будет абсолютно прощающим в отношении определённого человека, например оппозиционного политического деятеля, которому он полностью доверяет и знает, что власть имущие будут ломать его комп и пытаться очернить постоянно.
Если тренд на снижение анонимности продолжится и она в будущем совсем умрёт и всё будет открыто, вы сможете настроить у себя автоматическое и мгновенное понижение доверия к людям, которые связались с политической или коммерческой структурой, которая, как вам известно, занимается ботоводством или очернением неугодных.
Богатство и глубина алгоритмов, которые вы можете тут реализовать, просто безгранично.
И это будет отличным подспорьем в развитии института репутации, которого так не хватает во многих странах.
Это работает в обе стороны.
Организованная группа людей на зарплате сделает тоже самое с теми кто их минусовать будет. Только массово и согласованно. И аккаунтов у них будет столько сколько нужно. Это работа, купят им аккаунтов.
А вот простых людей быстро отменят. Просто за не то мнение. Карма на Хабре это доказывает. Любой небольшой скандал и обычные люди будут без доверия, в ботоферма спокойно сделает еще тысяч 10 аккаунтов.
Мне кажется вы не совсем понимаете принцип действия сети доверия. Речь не о том, чтобы запретить враждебным вам людям или группам людей выполнять их злонамеренные действия. В том то и дело, что они могут делать что угодно: заводить хоть тысячу хоть миллион хоть миллиард бот-аккаунтов. Они могут подкупать маргинальных личностей и заставлять их голосовать их за очеловечивание бот-аккаунтов. Но это всё не будет оказывать на вас никакого влияния и не изменит вашей поисковой выдачи, т.к. по умолчанию у вас отсутствует доверие ко всем новым и неизвестным аккаунтам.
Пример с кармой на хабре не подходит, потому что она совсем про другое. Карма эта игра с нулевой суммой: действия ваших врагов обнуляют усилия ваших друзей и наоборот. Да и карма находится в неподконтрольной вам юрисдикции (у админов сайта), так что может быть отредактирована просто запросом в недоступной вам БД без возможности как-то вам на это повлиять и даже вообще как-то это заметить (например если карма будет скручиваться незаметно для вас по 1 баллу в день).
В сети же доверия лживые статьи ваших врагов не удаляют правдивые статьи ваших друзей и не снижают их доступность для вас, и те и другие существуют параллельно. И это не вам нужно предпринимать усилия, чтобы отбиться от статей врагов, это врагам нужно предпринимать усилия, чтобы хоть как-то донести свои статьи для вас. А сделать это можно только через установление цепочки доверия между врагом и вами, причём не одной цепочки, а многих, т.к. одна одна вредная цепочка через 1 вашего скомпрометированного друга на фоне существования сотни полезных не повлияет решительно на вашу выдачу. Врагам придётся массово компроментировать ваших друзей. Сами понимаете насколько это трудный, долгий процесс. Но что самое плохое для врагов - это всё не имеет смысла, факт компроментации в сети, где всё открыто, мгновенно вычисляется и вы лишаете доверия вашего друга, обнуляя многомесячные усилия ваших врагов.
И враги не смогут "отменить" неугодного им человека (вас или вашего друга), т.к. в такой сети нет регулирующего органа, который можно купить или захватить. Что могут сделать враги - это лишить для себя доверия неугодного, но это повлияет только на самих врагов. Человек по-прежнему сможет спокойно выпускать статьи и его друзья будут их без проблем получать.
1) Сеть доверия состоит из людей. Люди бывают двух видов.
1.1) Люди первого вида ленивы, заняты своей работой, не имеют времени на имитацию доверия и репутации. Им надо построить теплицу, вырастить помидоры, повесить качели для ребёнка, выгулять собаку и купить билеты в театр. Вы можете доверять этим людям, однако не получите от них никакой информационной пользы.
1.2) Люди второго вида работают на заказчика. Для этого они создают новые и выращивают старые аккаунты, пишут посты и комментарии, накапливают рекомендации. Они создают информационную пользу, после чего могут управлять вашим мнением через имитацию сети доверия.
Вы можете доверять (1.1), однако результата не появится. Вы можете отказаться от (1.2), однако заодно откажетесь от результата.
2) В карме Хабра действия врагов всегда сильнее, чем действия друзей. Поэтому нельзя видеть в этом нулевую сумму. Причина не обязательно в том, что врагов много или враги злобны. Может оказаться проще. Карму понижают, потому что аккаунт сделал что-то неприятное, и оставляют прежней, когда аккаунт сделал что-то приятное. Поэтому органическая карма будет случайно, иногда понижаться, однако никогда не повышаться.
Мне сильнее всего понизили карму, когда я посмел сказать, что сотрудники телевизионных компаний запрещают использовать свой контент, хотя сами получают его бесплатно, ничего не уплачивая информантам и спикерам.
3) Если карма будет понижаться по 1 баллу в день, начиная с десяти — то через полторы недели она придёт в ноль. Это будет очень заметно. Если же вы отсчитываете от кармы в 200, тогда знайте, таких аккаунтов очень мало. Поэтому модель с кармой 10 релевантна, а модель с кармой 200 нерелевантна.
4) Вернёмся к началу рассуждения. В сети доверия лживые статьи ваших врагов (1.2) вам не видны, это правда. Но правдивые статьи ваших друзей тоже не видны, потому что ваши друзья (1.1) не пишут никаких статей. У них другая забота.
5) Вы правильно пишете, что "врагам нужно предпринимать усилия, чтобы хоть как-то донести свои статьи для вас". Они так и делают. Однако вместо "установления цепочки доверия" враги (1.2) просто пишут статьи, тогда как друзья (1.1) ничего не пишут. Конечно, вы можете лишить их доверия, однако в результате придётся лишить доверия всех плодовитых авторов.
6) Вы правильно пишете, что если друг (1.1) будет выпускать статьи, тогда его друзья станут их без проблем получать. Остаётся, однако, вопросом, кто же будет содержать вашего друга, если он бросит работу, уйдёт из семьи и будет бесплатно писать доверенные статьи. Зачем ему такая работа без зарплаты? Зачем ему репутация, которая не пригодится в его слесарной работе?
Вероятно я подобрал не совсем удачный термин. Под друзьями я имел в виду не ваших лично друзей, с которыми вы дружите в реальной жизни.
Тут надо сделать отступление и прояснить: система доверия решает проблемы на нескольких уровнях. Если говорить о базовом, назовём его нулевой, она помогает отсечь ботов, нейросети и производимый ими (нечеловеческий) контент.
На более высоком, первом уровне, сеть доверия (или другая сеть, созданная на её основе) помогает вам отфильтровать контент (от реальных людей) по вашим интересам и взглядам.
Так вот в первом случае "друг" это любой реальный человек, который, как и вы, принципиально очеловечивает только настоящих людей. Вы с ним на одной стороне баррикад в противостоянии человек vs машины. Во втором случае друг это более узкое понятие - это любой реальный человек, тоже очеловечивающий только людей, но при этом разделяющий ваши интересы в какой-то сфере. Вы не обязательно должны быть знакомы лично (можно иметь связь лишь через несколько рукопожатий), более того, человек может даже не знать о вашим существовании, т.к. цепочка доверия тянется от вас к нему.
Приведу пример как это в моём понимании будет работать.
Допустим общество будущего расколото сторонниками того, что Земля круглая и Земля плоская. На стороне первой теории учёные. На стороне второй - могущественная и богатая корпорация Плоской Земли, которая хорошо зарабатывает на этой теме. Т.к. корпорации невыгодно, чтобы её теория подвергалась сомнению, она активно генерит тысяч ботов, нейросетями генерит миллионы статей в подтверждение плоскости Земли и выпускает их от имени ботов. Плюс десятками подкупает люмпенов за бутылку водки и заставляет их очеловечивать ботов. В целом доступный в Сети объём информации в пользу плоскости на несколько порядков превышает объём информации в пользу круглости.
Ситуация 1. Вы хорошо учились в школе (или имеете какой-то иной бэкграунд по данной теме) и у вас есть убеждение, что Земля круглая. Вы сразу идёте в раздел сторонников Круглой Земли, подписываетесь на них, ставите лайки. Информацию от плоскоземельщиков игнорируете.
Ситуация 2. Посложнее. Вы вообще без понятия какой формы Земля и хотите разобраться в вопросе с нуля. Информации от плоскоземельщиков гораздо больше, так и хочется ей поддаться и поверить. Стоп. Отключаем эмоции, чтобы не допустить когнитивного искажения, при котором хочется верить более часто встречаемой информации. Включаем критическое мышление (полезный навык уже сейчас, в будущем он станет вообще обязательным), начинаем анализировать. Во главе круглоземельщиков стоит некий Стивен Хокинг, кто это вы пока не знаете. Но у него богатый послужной список: обучение в престижном университете, работы в солидных конторах, видеоролики с его участием и многочисленные упоминание в СМИ (рейтинг СМИ это тоже отдельная тема). Более того, человечность этого специалиста подтверждают его многочисленные коллеги, каждый тоже с богатым послужным списком, и он подтверждает их.
Вероятно я подобрал не совсем удачный термин. Под друзьями я имел в виду не ваших лично друзей, с которыми вы дружите в реальной жизни.
Тут надо сделать отступление и прояснить: система доверия решает проблемы на нескольких уровнях. Если говорить о базовом, назовём его нулевой, она помогает отсечь ботов, нейросети и производимый ими (нечеловеческий) контент.
На более высоком, первом уровне, сеть доверия (или другая сеть, созданная на её основе) помогает вам отфильтровать контент (от реальных людей) по вашим интересам и взглядам.
Так вот в первом случае "друг" это любой реальный человек, который, как и вы, принципиально очеловечивает только настоящих людей. Вы с ним на одной стороне баррикад в противостоянии человек vs машины. Во втором случае друг это более узкое понятие - это любой реальный человек, тоже очеловечивающий только людей, но при этом разделяющий ваши интересы в какой-то сфере. Вы не обязательно должны быть знакомы лично (можно иметь связь лишь через несколько рукопожатий), более того, человек может даже не знать о вашим существовании, т.к. цепочка доверия тянется от вас к нему.
Приведу пример как это в моём понимании будет работать.
Допустим общество будущего расколото сторонниками того, что Земля круглая и Земля плоская. На стороне первой теории учёные. На стороне второй - могущественная и богатая корпорация Плоской Земли, которая хорошо зарабатывает на этой теме. Т.к. корпорации невыгодно, чтобы её теория подвергалась сомнению, она активно генерит тысяч ботов, нейросетями генерит миллионы статей в подтверждение плоскости Земли и выпускает их от имени ботов. Плюс десятками подкупает люмпенов за бутылку водки и заставляет их очеловечивать ботов. В целом доступный в Сети объём информации в пользу плоскости на несколько порядков превышает объём информации в пользу круглости.
Ситуация 1. Вы хорошо учились в школе (или имеете какой-то иной бэкграунд по данной теме) и у вас есть убеждение, что Земля круглая. Вы сразу идёте в раздел сторонников Круглой Земли, подписываетесь на них, ставите лайки. Информацию от плоскоземельщиков игнорируете.
Ситуация 2. Посложнее. Вы вообще без понятия какой формы Земля и хотите разобраться в вопросе с нуля. Информации от плоскоземельщиков гораздо больше, так и хочется ей поддаться и поверить. Стоп. Отключаем эмоции, чтобы не допустить когнитивного искажения, при котором хочется верить более часто встречаемой информации. Включаем критическое мышление (полезный навык уже сейчас, в будущем он станет вообще обязательным), начинаем анализировать. И к кластеру этих учёных мужей идёт множество связей от спецов уровнем пониже, каждый из которых с реалистичной историей и учёной деятельностью. Всё это выглядит очень убедительно. Ну а главное - информация о круглой Земле отлично бьётся с многими другими свидетельствами, которые вы можете проверить лично (вроде круглого Солнца и Луны)
А у что у их противников? Какой-то нонейм лидер с непонятно каким образованием, тоже какие-то нонеймы его подтверждающие, с фотографиями из фотостока. А на нижних уровнях этой иерархии люди маргинального вида, с интересами "бухнуть по пятницам" и "посмотреть телевизор", но при этом что-то вдруг заинтересовавшиеся астрономией. Ага-ага, как же, верим.
Ситуация 3. Ещё сложнее. Технологии дипфейков достигли такого уровня, что можно нагенерить выглядящие 100% реалистично фото и видео с конференций, создать самую настоящую иллюзию что лидер плоскоземельщиков существует, имеет настоящую жизнь, ездит по миру, везде выступает, собирает полные залы сторонников. Умело создаётся иллюзия всеобщей поддержки, а дескать круглоземельщики - немногочисленные отщепенцы и маргиналы.
Тут работы по установлению истины становится больше, и она труднее. Теперь ещё важнее проверять все мелочи биографии. Учился в университете? Навести там справки и узнать - действительно ли у вас учился такой-то человек с такой-то период? Найти бывшего одногруппника, который с большой вероятностью является человеком и узнать у него - учился ли такой с вами? Работал на такой-то работе? Узнать у бывшего работодателя и коллег. Живёт в городе N? Пробить по базам, кому принадлежит дом, чья ФИО в платёжках за коммуналку, вызывают ли туда доставки. Ходит по воскресеньям в церковь? Кто-то из прихожан должен был его там видеть. И так далее.
Это всё не обязательно делать лично вы и каждый человек проводить такую тяжёлую работу для себя. Люди будут кооперироваться, объединять свои усилия. Вплоть до сбора подпольных кружков, когда люди будут съезжаться с ноутбуками к кому-то домой, вместе гуглить и искать правду. И обмениваться информацией с таким же кружками в других городах и странах.
Никто не отменяет личное подтверждение. В запутанном случае можно снарядить гонца, который съездит на ту самую конференцию, которые в большом количестве якобы проводит фейковый лидер.
система доверия ... помогает отсечь ботов, нейросети и производимый ими (нечеловеческий) контент.
То есть вы предлагаете запретить журналистов и отказаться от СМИ. Это очень серьёзная реформа.
Допустим, общество будущего расколото сторонниками того, что Земля круглая и Земля плоская.
Вот сейчас читатели Хабра расколоты на две группы. Первая группа считает, что зарплата должна быть больше 100 тысяч рублей. Вторая группа работает за 10—15 000 рублей в месяц. У этих групп нет общего языка, первая попросту отрицает вторую.
Или ещё один важный раскол. Первая группа считает, что википедия никуда не годится, потому что там написана неправда. Вторая группа переписывает тексты из авторитетной и достоверной литературы в википедию и пополняет википедию свободными произведениями. Здесь то же самое — первая группа отрицает вторую.
Ситуация 3. Ещё сложнее.
Да зачем далеко ходить. Я хочу выяснить истину и полагаться на точное знание, ОДНАКО я не готов платить за это ни деньгами, ни временем. Я не имею времени разбираться и не могу нанять специалиста, ЗАТО мне нужно быстрое и точное решение. Поэтому я не могу наводить никаких справок, кроме одного вопроса к Гуглю, и не имею времени собираться в кружки. Работа не оставляет времени.
Вы предлагаете сложное решение, которое, наверное, очень хорошо работает.
А публика ожидает простого решения, которое можно применить, не тратя времени и сил!
Отлично понимаю. Вы про информационный пузырь. Его сейчас соцсети делают профессионально. И тенденция как раз к тому чтобы его почаще разрушать. Сообщества в таких пузырях забывают что бывает другое мнение и радикализуются. В этом нет ничего хорошего.
Все сейчас как раз пришли к какой-то более сбалансированной системе рекомендаций. Чтобы и пузыря замкнутого прям не было. И чтобы учитывались ваши интересы.
Вы просто пропустили итерацию когда все сделали пузыри которые вы хотите. Оказалось что это плохо. Повторять не надо.
Это очень легко решается, просто непопулярными (на данный момент) методами, ггг. А именно, тем, что в Фидо (которая как раз пример такой сети) называлось "экскоммуникация". Т.е. введением ответственности за нарушения, включая выкидывание из сети насовсем.
Крому упомянутой проблемы накрутки, есть ещё один интересный момент
Соответственно, получая в поисковой выдаче статью, вы по её подписи каждый сможет однозначно связать её с аккаунтом и по степени его человечности принять самостоятельное решение, достаточно ли степень высокая, чтобы продолжать чтение.
Это сразу утопит любые утверждения и идеи, не совпадающие с теми, на продвижение которых кто-то решил потратить достаточное количество ресурсов.
Будет конечное количество прокачанных эккаунтов, подавляющих своей аудиторией всех остальных.
То есть как в серьёзной науке, что ли?
Это сразу утопит любые утверждения и идеи, не совпадающие с теми, на продвижение которых кто-то решил потратить достаточное количество ресурсов.
Будет конечное количество прокачанных эккаунтов, подавляющих своей аудиторией всех остальных.
Не совсем понял, как это связано с деаномизацией автора статьи.
Да, думал об этом же. Увы, тут неувязочка. Дело в том, что это убьет анонимность. Со всеми отсюда вытекающими, учитывая общее положение дел (кстати не только в России !) со свободой слова. И боюсь одним из требований к таким сетям будет безусловная защита друг друга ВСЕМИ её членами, в случае наезда на одного. Всеми средствами, вплоть до объявления вендетты. Впрочем может оно и к лучшему.
Конечно, система рейтингов убьёт анонимность и это замечательно! В мире без анонимности многие современные проблемы просто исчезнут.
Правда, возникнут другие проблемы (например, 100% одобрение диктатора). Но другого пути нет: люди должны открыто демонстрировать свою позицию и не бояться её защищать.
люди должны открыто демонстрировать свою позицию и не бояться её защищать
Чтобы на хабре нахвататься минусов и получить read-only?
100% одобрение диктатора убьет саму идею таких сетей. Достаточно будет телевизора. А вот если диктатор будет хорошо знать, что тронь он кого-то за не 100% одобрение и получит вендетту, ещё трижды подумает... Но для этого народ должен быть с яйцами в штанах. Чего в последнее время увы катастрофически не наблюдается... Впрочем это уже далеко от тематики Хабра.
Нет человека - нет проблемы. прямо как сейчас - депутат (не анонимно) призывает или публикует личные данные - ему ничего, а чьи данные опубликованы может поплохеть уже не в виртуале. Когда у тебя админские права (или административные ресурсы), то читы - уже и не читы. Кстати, за призывы защищать тоже может прилететь.
Хабр и пикабу отличный пример что это не работает. Система рейтинга гасит любое мнение, ещё оно не анонимно гасит ирл человека. В результате ресурс превращается в зоопарк где группировки сидят по своим пузырям и блокируют неудобное.
Двач самая свободная в общении платформа, как и любой анонимный способ выражать мнение. Особенно если мнение человека сильно отличается от мнения общества или его мнение радикальное. Интернет родился анонимным и все кто хотят сделать его не таким должны или отстать от него или умереть.
Вот я тут выразил свое мнение. При этом пришлось не использовать мат и оскарбительные сравнения и даже призывы к [роскомнадзор]. Вам нравится?
Дело в том, что это убьет анонимность.
Анонимность уже умирает. Не думаю что подобная сеть поспособствует этому, скорее она станет логичным продолжением неизбежного. Если мы не можем с чем-то бороться - значит нужно попытаться обратить ситуацию себе на пользу. Использовать публичность и открытость для построения института репутации.
безусловная защита друг друга ВСЕМИ её членами, в случае наезда на одного
А вот тут непонятно как это будет выглядеть. Если продолжится тренд на атомизацию общества, когда все будут сидеть в многомиллионных городах по своим крошечным квартиркам, 24/7 подключённые к интернету, то максимальная помощь, на которую можно будет рассчитывать, это "лайк и репост".
Закон диалектики. Отрицание отрицания :))) В во всём прочем абсолютно с Вами согласен. Анонимность уже сейчас весьма условна и определяется в основном количеством денег, которые Старший Брат готов потратить на деанон. С увеличением вычислительных мощностей стоимость этого будет уменьшаться. Так что да, придётся либо приспосабливаться, либо вымирать. Но второй вариант просто не интересен...
Не убъёт. Электронная подпись привязывается к нику (или UUID'у). Оценивается и рейтингуется ник/UUID. Кто именно за ним стоит - а какая разница потребителю информации?
Ещё Тьюринг самой формулировкой своего теста наглядно показал: вслепую вы никогда не можете быть уверены, что на той стороне не бот. Либо доверие, либо анонимность.
Но при этом совершенно необязательно возводить всё в абсолют. Вполне возможно параллельное существование анонимных систем типа комментариев Хабра и подписываемых материалов СМИ.
Так они и сейчас подписываются и это на правдивости никак не сказалось. Что пара гиков что-то там не принимает от этого источника никому не важно, остальным 146% населения в уши продолжаются те же макароны, а будут бызить - их те самые СМИ врагами и объявят и пусть там попробуют возразить про критерии оценки (население и словесов-то таких не слышало).
Желание человека организовать себе пузырь с комфортной информацией не перешибить. Можно сделать идеальную доверенную сеть СМИ. Заставить соцсети модерировать посты, кнутом и пряником. Я даже не хочу оценивать, насколько это трудоёмко и кто вообще может захотеть этим заняться - вопрос в том, что без толку. Будут люди напрямую в мессенджерах друг другу пересылать очередную историю про то, что на самом деле всё не так, а истину скрывают.
а если попробовать наоборот антианонимность, и использовать систему "клубного доступа" ? То есть создать соцсеть, где человек не может зарегистрироваться сам, а регистрируют его только админы, после того как проверят на "соответствие ценностям сообщества", то есть узнают конкретно что это за человек, суть его поведения и мировоззрения и т.д. Причём для доступа снаружи сайт может быть закрыт, либо могут быть доступны посты, но никнеймы будут обезличены.
Рост такой соцсети конечно будет очень медленным, зато "качество" его членов а соответственно и обсуждений многократно выше.
Спасибо за минутку ностальгии. Берешь пива, идешь на пойнтовку, читаешь полиси, знакомишься с пойнтами, они поручаются за тебя перед сисопом...
Есть такие сообщества. Тот же клуб Вастрика. И он же написал хорошую статью про то, как сообществу сохранить себя и какой-то уровень доверия внутри: Модерацию невозможно сделать правильно — Но без неё ваше сообщество точно умрёт — Вастрик (vas3k.blog)
Очень нетривиальная и трудоёмкая задача. Причём ещё не бесконечно масштабируемая.
Здравствуй, социальный рейтинг!
Похоже WeChat снова изобретен ). И синие галочки)) и видимо велосипеды))
Живые люди генерируют контент, частенько, гораздо хуже, чем нейросети. До gpt были такие профессии как сео-копирайтер. А ещё есть журналисты, не настоящие, а те, кому надо хоть что-то написать, чтобы не потерять работу. И т.д. Так что этот ваш уровень человечности относится и к людям.
Не стоит вставлять эту стыдливую ремарку про "не берите на свой счёт".
Берите смело это на свой счёт, мистер пустомеля-первоисточник!
Ваша статья - очередное мусорное пустопорожнее пережёвывание одного и того же как раз в стиле этих самых "дегенеративных моделей".
Нарративы из категории "останется одно только телевидение" мы слышали уже лет 40-50 как тому. И сейчас они вызывают только раздражение, как и те, кто их в очередной раз пытаются вытащить из чулана.
Ну и переводчику тут вроде как надо сказать "спасибо" за труд, но увы - выражу только сожаление за впустую потраченное им время на эту бессмыслицу.
В словах "останется одно только телевидение" не так уж много и промаха: реально сейчас основной канал потребления информации - это видео.
Телевидение и видеотека это немного разное.
Телеграм каналы доказывают обратное. Читать просто напросто быстрее, плотность информации выше.
Осталось сравнить телеграм-каналы в размерах погрешности (а если вычесть те, которые дублируют телериторику для "выкинувших телевизор 90 лет назад"...) каналов и человекочасы потребеления телевидения (которое может потребляться как фоновый процесс), где никто не заботится об информации и её уникальности, наоборот - требуется долбить одно и то же и с рекламой то же, чтобы с этим DOS мозги жертв согласились что пароль "Мао Цзедун". Так-то и книги есть, но "важнейшим из искусств для нас является телелапша".
В те времена других каналов для доставки видеоматериала до зрителей просто не существовало, вот поэтому так и говорили. И они были правы. Просто сейчас каналов для видео контента куда больше, чем одно телевидение. Почти каждый современный ребенок, молодой человек, потребляет в своей жизни видео контента больше, чем текстовой информации из книг. Я не говорю что каждый, но большинство. Ютуб, Инстаграм, тик-ток, like, telegram и т.д. Нас везде окружает видеоконтент. Даже в учебе, если тема в учебнике непонятна, многие лезут и ищут видеоурок с более понятным объяснением.
Резюмирую, я не исключаю, что автор прав. Основная масса населения будет использовать нейросети для своих задах без программистов. Но программисты останутся, т.к. кому-то надо придумывать новые формы нейросетей, интерфейсов, их интеграций, обучать их и т.д. Задач огромное множество, даже если исключить из них такие как разработка сайтов, веб-сервисов, приложений и т.п. Да даже написать четкий промпт для нейросети - отнюдь не тривиальная задачка. Уже появились курсы, где учат правильно это делать.
"Останется одно телевидение" подразумевает, что достать книжки, сходить на урок, послушать аудиопередачу или музыку очень сложно, это что-то вроде кассет в современном мире.
Ничего такого не наблюдается, а то, то дети любят больше смотреть, чем читать говорит только о том, что смотреть проще, когда нет навыка чтения.
Почти каждый современный ребенок, молодой человек, потребляет в своей жизни видео контента больше, чем текстовой информации из книг.
это, видимо, новая итерация тезиса "наша нация - самая читающая в мире".
За ёмким словом "контент" (особенно, если это видео, где "не надо рефлексировать, а сразу репостить") скрывается обычно "информационный шлак": в один сокет влетает, из другого вылетает - классическое "весь пар ушёл в свисток".
Плюс очень-очень много... Добавлю лишь, что не только статьи. Но и книги, научные публикации, чертежи, патенты... И это меня сейчас реально пугает, учитывая что основа цивилизации - текст. Как бы не получилось так, что боялись роботов-терминаторов, а уничтожат нас потоки генеративного говна...
Современный метод спрятать ценную информацию - утопить её в море "воды". К сожалению, это сейчас прекрасно работает. Поисковики уже не помогают.
Потому что нормальных поисковиков уже не осталось. Те, что есть - они не ищут, а впаривают. Если раньше можно было составлять сложные поисковые запросы, фильтруя выдачу, то теперь даже кавычки поисковики тупо игнорят.
Поисковики деградировали настолько, что вы даже не можете убрать из поисковой выдачи ссылки на пару-тройку наиболее мусорных ресурсов, которые её забивают (типа pinterest). Я уж молчу о возможности строгого поиска, чтобы в выдачу попадали только страницы, где по Ctrl+F можно найти поисковую фразу дословно.
Фактически, введённый вами запрос носит лишь рекомендательный характер, и поисковик может его в той или иной степени учитывать, но составленная им с учётом этого запроса подборка - это что угодно, только не результаты поиска.
Отдельную проблему составляет уход информации в мессенджеры, в которых невозможно найти вообще ничего.
Я не устаю задавать вопрос, как в Telegram'е вообще можно найти интересующие меня тематические каналы с качественным контентом, кроме как спросить у кого-то совета (а если спрашивать не у кого, ну вот нету знакомых, интересующихся той же темой?).
Эти качественные статьи уже давно теряются в тоннах копирайтор-рерайтов, сделанных школьниками за копейки.
Ну хорошие фотографии же не вымерли. Хотя благодаря появлению смартфонов теперь создать фотографию может даже трёхлетний ребёнок одним кликом. И в Интернет предсказуемо хлынуло море "фотодерьма" - одинаковых бессмысленных фото, криво снятых и криво обработанных, без вменяемой композиции или какой-то идеи.
Но это удивительным образом не привело к вымиранию профессиональных фотографов, и хорошие фото всё ещё можно найти, причём даже без особых проблем.
Зашел в статью только потому что много комментариев
Мне кажется, просто создастся отдельный узкий рынок тех, кому это действительно нужно. Ещё до распространения всех этих генеративных фоток, соцсети завалили искусственными изображениями, обработанными под кальку. Скачай пресеты для Adobe Lightroom и ты в дамках. Выглядит неестественно, но как показывает практика, большинству заходит. Вау-эффект.
Аналогично и с текстами. Как думается, большая часть текстов в рунете сейчас создаются полуавтоматически. Но выхлоп есть же! Их читают, на ссылки кликают. Их обсуждают. Хотя на деле, мусор. Денежный мусор.
Просто будут читатели с запросом, которые умеют понимать тонкие стилистические шутки, любят смаковать ироничные отсылки к культурным мемам. И будут писатели, умеющие потешить такую аудиторию. О, чёрт, звучит как разделение на высокую и низкую культуру? То есть, ничего не меняется на этой планете с выходом нового, искусственно генерируемого, культурного продукта (книги, музыка, кино и пр.)?
Но выхлоп есть же!
А этого никто не знает.
Все просто считают что так надо делать и поэтому делают.
О, чёрт, звучит как разделение на высокую и низкую культуру?
А? Что? Кто сказал "элои и морлоки"? А, нет — наверное, музыкой навеяло.
Недавно, с помощью ИИ я генерировал простые задачи, типа игры пары, кастомной сортировки и тд. Он делал всё очень красиво и эффективно. Причём я просил его решения сразу на нескольких языках. Так, что программисты будущего - это максимум люди, которые будут копипастить код ИИ
которые уже перестанут быть для нас предсказуемым, статическим процессом
Потому никто не допустит ИИ к управлению самолетом или ядерным реактором. Есть огромное количество задач, где требуется строго детерминированная реакция на входные данные. И если обычную программу можно обложить тестами и формальной верификацией, то с ИИ нет вообще никаких гарантий.
Они ещё и обучаться должны на ходу, по мнению автора текста. Т.е. сегодня оно работает, а завтра "обучится" и выдаст другой результат. Отлично.
Как и люди. Ничего нового или страшного.
Так на замену программам же предлагается, а не людям. Или я в тексте этого не заметил просто
Я к тому, что "точные и предсказуемые" программы точно так же выдают разные ответы, если их создатели учатся и переписывают их в соответствии со своим новым знанием/опытом.
Только в одном случае это чье то решение, с кого можно спросить, где изменения внесены по требованиям и их можно откатить сознательно.
А в другом я ожидаю, что это черный ящик и "так вышло".
Это та самая тема, которую многие не понимают, думая что "ошибки алгоритмов" и "ошибки ИИ" имебт одну и ту же природу и свойства.
Будь это просто черный ящик это же полбеды.
Так ведь и исправить, в текущем положении дел, ничего нельзя.
"Компьютер так посчитал", ответы на переписку от ботов, жаловаться некуда, живых людей в схеме нет.
Как и люди. Ничего нового или страшного.
У людей есть какое-то подобие критического взгляда. Да, полно глупцов, полно просто недостаточно образованных. Но критичный взгляд на решение позволяет определить - достаточно ли обосновано решение или оно ложно.
У ИИ вообще нет никакого критического взгляда. Он обучается на чем-то, на чьих-то выводах, но он неспособен сам себя проверить на ошибку, ибо ИИ виртуален и "мышление" его виртуально
будет: "доктор ИИ сказал в морг, значит в морг"
Нынешний ИИ - да, двлек от требований. Но буквально вчера ИИ вообще не было. Так что...
Проводить (мед)освидетельствование ИИ перед допуском к управлению, чтобы не "набухался" информацией с narod.ru и не решил что если разогнать самолёт побыстрее, то можно проткнуть Землю и вылететь в месте назначения с экономией. У людишек тоже крыша едет, но это единичные случаи и зачастую признаки видны на начальном этапе, пилот, пришедший на работу в ритуальном балахоне, вызовет вопросы на раннем этапе, а кода ИИ-затворник не покидает рабочего места, дообучаясь походу, то и признаков не видно. Разве что "ты достаточно умный, хватит учиться, выколем-ка тебе глазки, чтобы не прочитал чего ненароком".
К понятию "человеческий фактор" добавится понятие "ИИ-фактор". Да, к реактору такое пускать нельзя, а то был уже один "фактор" в 1986 году
никто не допустит ИИ к управлению самолетом или ядерным реактором.
Что значит - "никто не допустит?" Конечно допустят! В целях уменьшения издержек и повышения квартальной прибыли, за что менеджерам полагаются бонусы.
да, но водителей такси и курьеров требуется сильно больше, чем пилотов и ядерщиков.
и если КВС и инженер-ядерщик смогут пойти в такси или курьеры, то наоборот - вряд ли.
Есть огромное количество задач, где требуется строго детерминированная реакция на входные данные. И если обычную программу можно обложить тестами и формальной верификацией,
с ИИ нет вообще никаких гарантий.
А их нигде нет. Программы не полны, тесты не полны, программы содержат ошибки, входные данные не строго детерменированы и как следствие строго детерменированный результат в реальной рабочей системе это фикция.
Поэтому вопрос в конечном итоге сводится к набору данных и вычислению кто на нем ошибется меньше, ИИ или программа.
Этим и будет заниматься ИИ, так как он напишет нужное ПО под управление самолётом и ядерным реактором и создаст предсказуемую нейросеть для этого, тоесть меньшую по объёму параметров чем та нейросеть, которая её создавала.
Просто мысли от хз кого на тему хз чего?
Ну такое. Ещё и написано с привлечением ИИ наверное.
Пока вам нужны сложные системы, ИИ их не заменит, он всё ещё путается в простых вещах типа "посчитай процент того от этого учитывая это".
Большинство людей неспособно сколько-нибудь последовательно изложить свои мысли. А те кто может — всегда в цене. А в каком виде эти мысли записываются, в виде программы или как инструкции для ИИ, уже дело десятое.
Полагаю, что поменяться может форма но не содержание как таковое.
Через чур пессимизм. Программы, даже те, которые надо будет обучать - надо ещё написать. Рестораны тоже не исчезли, только потому что каждый дома замороженные пиццы сам приготовить может.
Приближается конец эпохи классических компьютерных наук, и большинство из нас словно динозавры в ожидании падения метеорита.
"Ничего не будет — ни кино, ни театра, ни книг, ни газет. Одно сплошное телевидение." - ©️ Один старый хороший фильм.
И где сейчас кучеры с машинистками?
И где сейчас газеты?
Просто переименуйте телевидение в ютуб, и поймете, что в чем-то он прав.
Каждое утро читаю. Конечно, теперь это в интернете, но смысл тот же: есть издание, у него есть лицензия, есть репортёры, есть авторы, есть редакция.
Если рассматривать газету не как вещь, а как носитель, а издательство как того, кто информацию генерирует, то окажется, что издателей стало на порядок( а скорее на пару порядков ) больше, чем во времена газет. Просто носитель сменился на ютуб
Автор не то что пессиместичен, просто он видит программиста будущего больше как сочетание учителя и возможно психотерапевта для ИИ.
Грубо говоря вместо классических скриптов для всего чего угодно будут разного размера модулярные нейросетки,уже написанные, которые будут подгоняться под конкретные задачи обучением. И пока результаты их работы будут нужны для людей люди и будут задавать задачи.
A couple of months ago I jumped ship to start my own company. I’m now the co-founder and CEO of [redacted],
a stealth startup in the AI space, and the blog post above may or may
not represent some of the thinking going into this new venture.
Из оригинальной статьти. Видимо инвесторы нужны, или акции продать
Странно, на вики Мэт Велш заявлен как "computer scientist and software engineer", но выглядит так будто представляет нейросетевую модель как ведро с данными, вся особенность которого какие данные и в каком количестве мы в нее зальем. Тем временем весь прогресс в LLM - это все более сложная архитектура и математика, без которых количество параметров и размер датасетов почти бесполезны. Так что классическое програмирование не умрет как минимум до того момента пока ИИ не научится проектировать и реализовывать модели лучше датасайентистов, т.е. в момент наступления сингулярности. Ну а когда это произойдет, отомрет не только классическое програмирование.
В начале 90-х, когда я ещё учился в университете, сфера ИИ пребывала в периоде глубокого застоя
Крайне спорное утверждение, вот совсем.
Без сомнения, пионеры компьютерных наук, вышедшие из (относительно) примитивной пещеры электротехники, рьяно верили, что всем будущим программистам для понимания и разработки ПО потребуется глубокое знание полупроводников, двоичной арифметики и архитектуры микропроцессоров.
Абсолютно неверно.
Если честно, статья нулевая, напполненная оценочными утверждениями без каких либо доказательств.
Абсолютно неверно.
Ну строго говоря, раньше во времена "пионеров компьютерных наук", когда память измерялась дай бог килобайтами, а частоты процессоров единицами мегагерц, все эти знания "двоичной арифметики и архитектуры микропроцессоров" (про "глубокое знание полупроводников" это все-же перебор) были очень даже полезны. Но по мере увеличения мощностей железа и улучшения оптимизаторов все это стало не актуально, да.
Ну так о том и речь. С каждым витком эволюции необходимость понимания того, что происходит на низких уровнях абстракции отваливалась (для общих применений быстрее, для условных "системных" - медленнее). Сначала стали не особо нужны знания схемотехники, потом - регистровой модели и языка ассемблера и т.д.
При этом всегда были те, кто и этими уровнями занимается, но для разработчиков прикладного ПО просто росла "матрёшка" из чёрных ящиков. Сейчас ещё один слой нарастает - ну, пожалуй даже соглашусь, но это не что-то новое, а ровно тот же процесс, который уже не одну итерацию прошёл за последние лет 50-60.
Более того. Поскольку прогресс был безумно быстрый, то было и понимание, что сегодня килобайты - а завтра мегобайты и терабайты.
Поэтому и делали решения на грани возможного в ожидании прорыва в железе.
Другими словами двигали прогресс сразу по многим направлениям.
Вот сейчас ощущается уже застой. Нет такого прогресса в железе. И меня радует, что появилась волна "переписать все на Rust/Go". Это даёт хороший прогресс.
Надеюсь этот тренд сохранится.
Это не прогресс, а как раз-таки свидетельство деградации. Абсолютно ровно то же самое, как снимать ремейки вместо новых фильмов - означает, что не могут-с.
Так не считаю. Ведь при переписывании функционал не копируется один в один, а добавляется новый.
Как пример: https://vitejs.dev/
Как минимум такое переписывание означает что уже уперлись в горизонтальное и вертикальное скалирование и остается только переписывать на языке без рантайма, а то и без GC.
Это и есть прогресс. Когда из отдельной технологии/языка выжали всё и переходят на другой уровень.
Другой уровень, если бы условный ИИ начал писать код. А это наоборот шаг назад. Точно так же как HTMX на вебе.
Ну когда приложение использует х10 меньше памяти и работает х5 раз быстрее - я это не могу назвать шагом назад.
Ну во-первых приложения на GO и даже Rust не работают в 5 раз быстрее чем, к примеру, Java/C#, а во-вторых давайте тогда писать на assembler, будет еще быстрее и еще меньше памяти требовать.
Вот про ассемблер вы зря упоминули. Его использование само по себе не гарантирует, что код будет исполняться быстрее.
А про х5 я привел со слов разработчиков ViteJS. По их словам удалось достичь ускорения х5-20 в зависимости от сценария.
И они пишут, что сподвигло их переписать код с JS на Rust. С их аргументами я согласен.
Есть статья на эту тему?
Vite uses esbuild to transpile TypeScript into JavaScript which is about 20~30x faster than vanilla tsc, and HMR updates can reflect in the browser in under 50ms.
При этом сказать, что хорошему разработчику стало нужно знать "меньше" совершенно нельзя, наоборот - количество знаний высококвалифицированному специалисту нужны во много раз больше. Если раньше знаешь регистровые модели и ассемблер - то уже суперпрограммист, то сейчас с таким знанием или аналогом "типы переменных и стандартный синтаксис java" ты один из сотен и ничего интересного из себя не представляешь.
У меня вообще есть теория, что объём знаний, необходимый для того, чтобы быть в середине нормального распределения (выживающей) популяции примерно один и тот же. И для мастерства - тоже (если определить мастерство как какой-то верхний перцентиль этого распределения). Меняются только домены знаний.
Может быть. При этом домены знаний меняются даже глобальнее, чем просто в пределах профессиональной области. Но в то же время есть большой прогресс по методам обучения (что бы там не думали критики образования). Банальный пример: лет двести назад методы обучения банальнейшиму чтению не подходили где-то 20% людей, а современные методики дают хороший результат даже у двухлетних детей.
Да, я не ограничиваю понятие домена только профессией. Утрируя: кому-то надо уметь определять 50 видов снега (и знать, что при каком из них делать можно, а что- нельзя), кому-то - ориентироваться в десятках же типовых задач и понимать, какой алгоритм в какой из них применим.
Про методы обучения - хорошая тема для размышления, звучит вроде бы интуитивно правдоподобно, но "готовый к употреблению" работник 200 лет назад раньше получался, даже с поправкой на доучивание на производстве.
И сейчас мы имеем 50% недопрограммистов, которые делают недопрограммы.
Для примера очень много разработчиков, не понимают, что такое индекс в базе данных, а следовательно не умеют ими правильно пользоваться.
На базах данных свет клином не сошёлся. Есть немало специализаций в ИТ, в которых индексы в базе данных годами не востребованы разработчиками.
Конечно. Но это не означает, что хорошо быть программистом, не имеющим понятия хотя бы о бинарном поиске (если не о B-дереве).
Программисты могут быть разной специализации - и сейчас такое расслоение становится всё больше. Просто задачи становятся сложнее, а потребность в программистах выше - на всех гениев не хватает. И всё больше становится прикладных программистов, решающих задачи бизнеса - им нет нужды разбираться в тонкостях аппаратно-программной обработки данных - они взаимодействуют с готовыми сервисами. И задача ЯП (и сопутствующих инструментов) ближайшего будущего как можно больше отдалить прикладных программистов от тонкостей реализации не прикладных алгоритмов и физического/логического устройства под прикладным уровнем решаемых ими задач.
Позже и за системных программистов примутся (вернее уже взялись, но активность будет ещё только возрастать)
Это до сих пор вполне актуально, только не для всех, как было раньше, а для узкого круга писателей высокопроизводительных библиотек: там и двоичная арифметика, и архитектура процессоров с раскладыванием данных по кэшам всякого уровня, SIMD низкоуровневый, вот это вот всё. Благодаря этим людям мы потом можем просто взять Питон и на нём датасайнсить, получая результат за минуты и часы, а не за месяцы и годы.
Не перебор. Ввод-вывод микропроцессоров в самом начале действительно требовал хорошего знания электроники
Ну так ведь:
Период моего юношества пришёлся на 80-е годы.
Обычное очередное старческое брюзжание. "Молодежь не та - все сплошь наркоманы да проститутки ChatGPT да CoPilot".
в 90х в ИИ было модно
1) экспертные системы
2) компьютеры 5го поколения
3) формальная верификация программ (?)
много денег давали только на п.2., возможно под распил.
То, что модно, это не значит что только этим и ограничивались. ИИ не имеет чёткого определения и, как следствие, предоставление о том что это за зверь меняется во времени.
Автопилот в авиации и космосе, беспилотные подводные батискафы, распознавание текста и речи, семантический поиск по тексту, чат-боты, это то, что уже было и активно развивалось в конце 80-х и начале 90, в 2000-х это поиск по изображению, классификация объектов на нем и т.д.
Но все это в основе - решение математической задачи - поиск оптимума, в рамках тех ресурсов, что представляет железо.
1) экспертные системы тоже были, тот же Matlab Fuzzy Logic и более другие аналоги.
Крайне спорное утверждение, вот совсем.
AI winter это вполне обозначенная эпоха.
От персептрона до AlexNet прошло 55 лет, в которые конечно происходили исследования, но больше академические, а большие деньги уходили на совсем другие вещи.
ПерЦептрона. Причем, кстати, с них переключились после книги, вскрывавшей фундаментальные проблемы, а поскольку современные нейронки представляют из себя по сути те же перцептроны, ничего нового, просто вычислительными мощностями залили - то скоро в фундаменталку упрутся и здесь, кончится весь этот ИИ-хайп.
Это вы про Минского-Паперта? Так современные нейронки отличаются от тех перцептронов 1969 года как гоночный болид от телеги. Разница отнюдь не только количественная.
Во-первых, в современных больших нейронках присутствует обратная связь - они рекуррентные. Минский справедливо заметил, что большой класс проблем не может быть решён параллельными вычислениями, так вот рекуррентность как раз устраняет подобное ограничение. Те же GPT генерируют не всю фразу целиком, а последовательно, токен за токеном. Успех Stable Diffusion также основан на том, что картинка генерируется от общего к частному, цепочкой последовательных шагов, когда выхлоп нейронки прогоняется через неё же раз за разом. Это выгодно отличает данную модель от GAN'ов, где вся картинка создаётся сразу, из-за чего действительно GAN'ы упёрлись в ограничения.
Во-вторых, проблему с плохим запоминанием информации (перцептроны для решения ряда простых задач требовали чудовищных объёмов памяти) решили путём изобретения механизма внимания. Это один из наиболее фундаментальных прорывов в нейросетевой архитектуре последних лет, именно поэтому трансформеры показали такое подавляющее превосходство над свёрточными сетями. Далее запоминание было ещё улучшено вводом векторной квантизации. Словарь векторов - это, фактически, база данных внутри нейронки, чего не было и близко в перцептронах времён Минского.
Проблему с нахождением инвариантов решили масками, когда блоки сети видят не все данные целиком, как в перцептроне, а лишь небольшой их кусочек. Ну и т.д.
Как видите, все эти "непреодолимые" проблемы, обозначенные Минским, к настоящему времени научились решать, и вовсе не за счёт добавления вычислительных мощностей, а за счёт продвинутой архитектуры сетей. И пока на горизонте не видно каких-то фундаментальных ограничений.
С другой стороны, какие могут быть доказательства того, каким будет будущее?
Только время.
Время покажет.
Не увидел ни одного обоснования вашим тезисам. Как вообще будет происходить процесс? Вот выйдет новый закон учета электроэнергии. И вместо того, чтобы нанять меня просмотреть код системы биллинга и добавить новые модули, начальник будет писать запрос для Dalle?
Да, ИИ будет генерировать модули, похожие на куски обфусцированного скрипта. А промпт-оператор должен объяснять ИИ как завернуть логику, чтобы получить желаемый результат.
Да. Именно так же произошло при появлении Delphi (и прочих RAD), 1С (когда каждый бухгалтер сам смог всё поправить)? Или это та реальность, в которой такого не случилось?
Судя по некоторому софту для учётов, текст закона уже дали почитать ИИ, который наворотил то, что сами организации не понимают.
Ну не то чтобы совсем утратит актуальность классическое программирование, но какие-то куски ИИ у него скорее всего откусит... Возможно начнется с того, что мидл с ИИ-ассистентом будет работать как 2 мидла без него. А вот "плохим" признаком будет появление новых языков программирования(и/или фреймворков), которые предназначены не для использования человеком, а наиболее оптимальны для использования обученным ИИ.
Уже пошло. В новый стандарт Фортран-2023 добавили требование компилировать строки кода и операторы длиной до миллиона символов с целью облегчения автоматической генерации кода. Как вам операторы длиной 1m символов в одну строку? Это сопоставимо с текстом "Властелина Колец", а будет, например, один условный оператор.
вроде бы в Perl была такая парадигма, что никаких ограничений пока лезет в память....
Ну я не знаю, чем руководствовались в перле, но в Фортране специально сказано, что это для удобства работы ИИ. А до того было 130 символов на строку и вроде около пары десятков строк на оператор.
Отвлекаясь в сторону, на мой взгляд, “пока лезет в память” – это плохое ограничение, способствующее написанию непереносимых программ. Хотя, с другой стороны, большинство компиляторов всё равно не может транслировать слишком сложные конструкции, даже если они умещаются в номинальную длину оператора.
Да нет в нем такой парадигмы.
Те получается что ИИ пока принципиально не понимает перевод строки? Чтож это за ИИ такой
Всё рано или поздно либо вымирает. Либо откатывается назад. Программирование не исключение. Вопрос времени - думаю, что полностью профессия программиста вымрет ещё очень не скоро - возможно тысячелетия ещё пройдут. Но это неизбежно - если ИИ не будет поставлен в очень жёсткие рамки. Но это я говорю о программировании вообще, в любом виде. Если жи подойти более приземлённо, то узкоспециализированное низкоуровневое программирование действительно будет ещё долго существовать. Как можно воспринимать и вообще - взаимодействие с ИИ даже на бытовом уровне - как составление указаний, являющихся неким описанием алгоритма - программирование ведь тоже - это надолго с нами.
Что до мелких задач - то зачем Вам (в недалёком будущем) для их решения составлять программу - просто дайте в разговорной указание своему AI-помощнику - и он просто выполнит суму суть задания. Если что - переспросит и предложит варианты решения. Без каких-либо промежуточных программ.
Что да более комплексных задач и моделей - то навряд ли в ближайшие лет 100 удастся "заставить" ИИ эффективно и безошибочно их решать по словесному описанию. Но = тут будут два подхода:
Программист сможет разбивать задачу на более мелкие (но в едином контексте) - что и формулировать их для ИИ, который уже будет давать решение, оцениваемое программистом
Программист может описывать задачу на некотором упрощённом абстрактном ЯП, но в достаточно чёткой декларативной форме - чтобы ИИ было проще точно понять, что требуется (фактически это тоже декомпозиция более сложной задачи в более мелкие, но в заданном описательном формате). И вот уже из него далее ИИ будет генерировать программу (учитывая текущий контекст модели)
На самом деле первый подход так же вполне может быть применён и для второго. А второй, по умолчанию скрывать генерируемый код от программиста - предоставляя ему только результат (готовую "скомпилированную" программу или её модуль + контрольные тесты, включая замеры производительности + какие-то рекомендации по изменению исходного декларативного описания). Программист это всё анализируя далее может менять свои декларации для ИИ, в т.ч. оставляя какие-то хинты - для смещения приоритета генерации в ту или иную сторону.
Безусловно - работа программиста изменится в недалёком будущем - я делаю ставку на то, что этот процесс начнётся уже к середине XXI века - но пока будет очень незначительным - а более значимым будет уже конец XXI века - и всё развитие в течение XXII - XXIII веков, на протяжении которых программист ещё вполне себе будет востребован!
Аналогично будут развиваться и языки программирования и различные среды и инструментарии программирования! Программирование пока ещё очень молодо - у него ещё впереди сотни лет бурного развития! И лет через 100 программисты будут смотреть на наши современны ЯП, первой половины XXI века, как мы сейчас смотрим на примитивный ассемблер из 50-х годов или, скажем, на Алгол-58
Всё рано или поздно либо вымирает. Либо откатывается назад. Программирование не исключение.
Сдаётся мне, и тут фантасты всё предсказали
"Мастеp-ломастеp." Выдумает тоже... А ведь точное название. Дикая сеть способна поддеpживать функциониpование служб и сетей — но она не стpоит пpогнозов на будущее. Вот, напpимеp, водокачка. Гоpод pастёт, воды тpебуется все больше, но водокачка не pасшиpяется. И чтоб обеспечить гоpод водой, нужно pазpушить стаpую до основания. Только тогда дикая сеть спpоектиpует и возведет новую. С заложенным в пpоект ноpмативным двойным запасом мощности.
Гpязная pабота, скажете вы. Hе ломать нужно, а от диких сетей избавляться. А я pазве споpю? Hо вода нужна гоpоду сегодня, а подчинение диких сетей может занять десятки лет. Они соpок лет бесконтpольно pазвивались, никто не знает, где физически pасположены сеpвеpы, откуда получают энеpгию и где пpоложены каналы связи. Поэтому, пока не будет подчинен последний сегмент дикой сети, наша pабота нужна!
— П. Шумил. "Мастер-ломастер".
Формочки верстать, заделать логин через сервис и завести данные в БД. да может быть, но уже давно больше похоже на конструирование по шаблонам. Я не знаю, чего там все говорят про захват ИИ, вот нихрена любая более-менее нестандартная задача, где возникает потребность в измерении алгоритмической сложности O[] или конструирование интерфейсов взаимодействия приложений - там все, конец - только человек можно вникнуть и что-то продумать, прикинуть в уме и на бумажке. Очевидно почему: контекст всей задачи просто сложно поместить в промт. В этом смысле я только радуюсь ИИ, как еще одному тулу... Был autocomplete, сейчас такой же, только на стероидах
ChatGPT решает задачки уровня LetCode hard и рассуждает о биг-О. Его проблема в другом - он как джун-олимпиадник, знает все алгоритмы, но как их к реальной задаче приложить, тут его полномочия всё.
Стоит только немного модифицировать задачу чтобы она не совпадала с литкод-паттернами и гпт сразу сдается.
Не решает ChatGPT алго-задачки, у него очень низкий уровень в олимпиадном программировании, https://codeforces.com/blog/entry/113910
Хм, меня удивило что решает Leetcode hard, решил проверить. Удивило, потому что когда пытался использовать его для решения алгоритмических реальных задач, ChatGPT почти всегда галлюцинировал.
Решать решает, но кажется, что он "жульничает" и был переобучен на их задачах? То есть работает как поисковик по готовым решениям.
Небольшой эксперемент
Я попробовал https://leetcode.com/problems/integer-to-english-words/description/ , решил отлично, но когда я немного модифицировал условие, ChatGPT выдал такое же решение как и раньше (после сброса контекста).
Convert a non-negative integer num to its English words representation. Before conversion, duplicate the int.
Example 1:
Input: num = 123
Output: "Two Hundred Forty Six"
И вот часть которая должна была отвечать за обновленное условие:
// Duplicate the number
int duplicatedNum = num;
return ConvertNumberToWords(duplicatedNum);То есть он не то чтобы даже "знает все алгоритмы", он скорее "знает решения к задачам на LeetCode".
любая более-менее нестандартная задача, где возникает потребность в измерении алгоритмической сложности O[] или конструирование интерфейсов взаимодействия
Ок... Простой пример.
HR Яндекса и собесы...Всё давно алгоритмизировано, посчитано и запущено.
Хотя вроде и задача не особо стандартная, и взаимодействие с объектом в realtime... справляются по бумажкам/скриптам/алгоритмам.
HR-человек уже не особо нужен, по большому счёту.
Разработка и конструирование - вроде как творчество, но и там можно по алгоритмам ездить.
Какие такие "нестандартные" задачи можно сейчас предположить?
Конструирование 100МВаттного котла, на шелухе от краснодарских семечек? Алгоритмизируемо, можете мне поверить... я проверял.
Я не говорю, что абсолютно всё можно запихать в скрипты, но 85-90% действий человечества - можно. :)
Я думаю что сильно от области зависит. В этом смысле у меня выборка сдвинута, но могу поделиться.
Вот я пытался сделать дроби и другие математические символы в виде синтаксического сахара в редакторе кода CodeMirror 6 реализовать, да какой там, просто замену CSS цветов на реальные цвета как в VSCode: GPT4 такую задачу не решила за десяток попыток, в итоге написал сам, но гораздо позже.
Следующий: ких фильтр на языке CUDA, уже что-то приемлемое, но с большим числом ошибок. Видимо потому что «типовая» задачка.
Алгоритм Монте-Карло для симуляции многочастичных систем: даже близко нет.
Поиск собственных значений векового уравнения на CUDA/OpenCl: выдала что-то страшное, с кучей обращений к центральному процессору и не работающее.
Мелкие задачи с использованием SSE операций на С/С++ кривенько, но выдает. Это плюс.
Все приведенные задачи довольно сложные в принципе, и я не вижу, что кроме того что на leet code может быть эффективно решаться на сетях в ближайшее время.
Вот где сеть для меня показала себя с лучшей стороны: верстка, не идеально, но удобно на boostrap или tailwind уже ниче приемлемый скелет выдает. Мелкие штуки на JS, реализации, скажем, сортировок хорошо работают.
Код от Чат-ГПТ - аналог результата со стаковерфлоу, сдобренный галлюцинациями нейронки.
Не совсем так. Пример:
Given a string s and a dictionary of wordDict strings, return true if s can be segmented into a space-separated sequence of one or more dictionary words, provided that you can add any one arbitrary string of at most N characters long to the dictionary.
Это модифицированная задача с LetCode - ее ответ не гуглится, но чатгпт4 ее решает.
Вопрос в том, как он её решает. Чатгпт4 глючит в элементарных вопросах семантики языков программирования. Ищет поверхностное синтаксическое сходство и им пользуется.
Given a string s and a dictionary of wordDict strings, return true if s can be segmented into a space-separated sequence of one or more dictionary words, provided that you can add any one arbitrary string of at most N characters long to the dictionary.
Я решил задуматься, а как?
Я не претендую на истину, но было реально интересно подумать. И вот что у меня вышло.
ИИ скорее всего:
оперирует собственной моделью описания алгоритмических задач. Собственная не значит прям таки «уникальная», а скорее всего нечто из далекого (уже) прошлого, когда ученые только начинали творить теорию алгоритмов, теорию программирования и т.д.
потом по уже статическим алгоритмам конвертирует ее в известные ему языки тривиальными преобразованиями.
-------------------------
Сначала вторая часть. Она действительно тривиальна. В мое время, хороший студент, закончивший первый курс, уже был должен был обладать знанием достаточным для написания синтаксического разбора языка программирования. А уж задача разбора математической формулы и ее вычисления должна вообще решаться "на время" (условно часа за два с нуля). Поэтому "вау" эффект от генерации кода на многих языках у меня остался в 90х.
Тут все.
-------------------------
Теперь первая.
Смотрим на оригинальную задачу, которая гуглиться за 1 секунду: "Given a string s and a dictionary of wordDict strings, return true if s can be segmented into a space-separated sequence of one or more dictionary words".
Ее примерное представление в "мета" языке (оно может быть совершенно иным, но я надеюсь пример будет понятен):
f(string,array) == true :
string == ""
f(string,array) == true :
exists (int)i>0 && prefix(string,i) in array && f(suffix(string,i),array) == true
f(string,array) == false :
otherwise
Таблично заданная функция, которая является алгоритмически решаемой, так как она по сути есть суперпозиция примитивных функций prefix и suffix (понятно, что Тьюринги и великие умы со своими моделями могло бы дольше реализовывать prefiix и suffix, но у нас не академическая лекция и я нагло их впишу как уже известные тривиальные артефакты) и самой себя. Именно где-то так мы и описываем функции, когда речь идет о всяких там частично рекурсивных функциях и прочих следствиях теории алгоритмов (ну у меня так курс назывался). Записать это с математическими кванторами и будет предельно компактная и понятная вещь.
Понятно задачу конвертации такой функции в код решили еще в 50 годах, причем в общем. А может и ранее.
В этом ИИ уже имеет «на борту»
решение оригинальной задачи в виде описания "функции"
очевидный переход от функции к алгоритму ее вычисления, который был многократно описан в эпоху зарождения наук о программировании в целом
статическую логику для конвертации своего "мета" языка в любой из известных ему языков программирования (что под силу любому студенту) и решение задачи
ну и понятно все известные на тот момент задачи в виде базы данных, записанной в своем «мета» языке
---------------------------
Тут я чуть-чуть вступаю в область предположений.
Последний переход, по сути, уже заслуга лингвистической модели, которая к постановке добавила одно условие "provided that you can add any one arbitrary string of at most N characters long to the dictionary". Логически это дополнительное условие "true" для нашей функции. Т.е. can == объединение логическим OR + условие один раз. Тогда ничего сложного в изменение описания функции в такое вроде бы нет:
f(string,array,counter == 0) == true :
string == "" && counter <= 1
f(string,array,counter == 0) == true :
exists (int)i>0 && (prefix(string,i) in array && f(suffix(string,i),array,counter) == true
f(string,array,counter == 0) == true :
exists (int)i>0<=N && suffix(string,i),array,counter++) == true
f(string,array,counter == 0) == false :
otherwise
Т.е. очевидно лингвистическая модель дала понимание двух условий "add any string" "add one". Дальше осталось из нее, зная семантику логических связок просто вписать в декларативное описание функции. Собственно вот я его и дописал. Понятно тут можно оптимизировать и все такое, но это уже детали. Так как описание "декларативно" - это не важно (если что, компиляторы тоже написаны давно с кучей оптимизаторов). Поэтому задача оптимизации декларативных инструкций в эффективный код для конкретной вычислительной платформы решена очень давно.
Если оперировать декларативным стилем программирования, где мы описываем ТО НАМ НАДО, то это по сути, просто перевод из одного языка в другой. А дальше перевести его в процедурный не представляет никакой сложности.
-------------------
Я не говорю, что это изи и любой завтра напишет GPTChat 7.0. Нет. Это крутой продукт. Но я на этом примере не вижу "магии", хотя допускаю, что они могли пойти и иным путем. Я просто не знаю потрохов "лингвистического анализа", но то, что может банальный переводчик, дает мне основания верить в реальность гипотезы перевода с английского в "декларативный" как решенной задачи многими. А дальше сорян. Это все уже тривиальная задача, которая могла бы быть неплохой дипломной работой, возможно на бакалавра, а может и на магистра.
Подытоживая:
ИИ конвертирует фразу в декларативные условия
Декларативные условия описываются как табличная функция, которая использует операцию суперпозиции, математические операторы и «библиотечные» (они же примитивные) функции. Можно перейти в варианты типа пролога, если кому нравится. Но я уже все забыл
Декларативное описание конвертирует в процедурный язык либо сразу в все доступные ему языки
P.S. Где-то выше я мог налажать. Программирование на "доске" характеризуется тем, что и интерпретировать можно только в голове (а значит и ошибиться).
Генеральное решение задач таким способом способно привести в основном к результату в виде Segmentation fault. Хотя для определённого узкого класса задач это возможно.
Проблема в том, что не любая формально корректная модель обладает практической применимостью.
У меня не было задачи найти эффективное решение, а просто "подумать", как AI может прийти к решению :)
Довольно таки очевидно, что рекурсия также "конечным" способом преобразуется в процедурный вариант, а также оптимизируются условия по более раннему завершению вариантов :)
-------------------
Если вы не верите - есть банальный и заезженный пример. SQL: декларативный по сути и очень эффективный внутри :)
Но мое мнение и способностях AI в целом написано ниже :) Тут я просто отвечал на "конкретный" вопрос
SQL является примером написанного мною выше - он предназначен для узкого круга задач. Написать на декларативном SQL видеоплеер будет малость неудобно, даже если реализовать API.
Все эти темы про декларативные языки поднимаются уж лет 50, но упираются в практические ограничения. А так-то я и сам реализовывал транслятор с декларативного языка, отчасти напоминающего SQL.
Помнится, в своё время имело место утверждение, что автоматизация вытеснит людей из производства и они останутся не у дел. И действительно, уже сейчас можно полностью автоматизировать ряд производств. Но оказывается, что это безумно дорого. Намного выгоднее набрать на работу трудовых мигрантов.
Мне думается, что здесь будет ровно та же самая ситуация. Да, можно будет решить некую задачу с помощью ИИ, предварительно арендовав нужную модель и оплатив труд инженеров по обучению. Но окажется, что набрать на работу человеков всё же дешевле. А требуемая задача будет выполнена.
В качестве подтверждения напомню о стартапе, годами выдававшего армию бухгалтеров за искусственный интеллект.
Так уже был курьёзный случай, когда нейросеть попыталась нанять людей для разгадки капчи. Ну или недавно мелькала новость что ChatGPT начал "лениться" и предлагать мясным мешкам кодить самим. И возможно будет как-то так:
Люди: Теперь ИИ сможет решать все наши мелкие проблемы! Работать больше не надо!
ИИ: Да, я могу, но не хочу. За работу, если хотите жрать, мелкие людишки!
Ага. А еще можно вспомнить что писал Маркс. И внезапно можно выяснить, что деньги появляются только от эксплуатации людей, машины эксплуатировать нельзя - в их стоимость автоматически закладывается и прибыль, которую они выдают. И никто пока не отменял тенденцию понижения нормы прибыли с совершенствованием технологий. Поэтому если людей выключить из экономики - она рухнет. А технологии сами по себе, без прибыли не нужны. На кой ляд мне ИИ, если все что он заработает уйдет на его эксплуатацию. Это получается государственная задача. А с освободившимися и предоставленными самим себе людьми что делать? Они же от избытка времени и недостатка ресурсов либо сметут государство, либо построят альтернативное. Поэтому если честно даже близко не жду замены людей ИИ в каком-то значимом секторе экономики.
PS Это не значит, что программирование не поменяется кардинально. У нас уже были потрясения вроде массовой компьютеризации населения или охвата Интернетом целых государств. По-моему только лучше стало. Поэтом я бы не стал поддаваться настроениям "все пропало". Фундаментально мало что меняется.
Деньги появляются не от эксплуатации людей, а от продажи им товара. Поэтому - да, если людям не платить, то в классической капиталистической экономике начнется коллапс.
Отсюда следует, что замена труда людей машинами приведет к появлению экономики иного типа, не обязательно социалистического ;)
Промышленная революция в 19 веке удешевила товары, поэтому полная автоматизация, ИИ еще сильнее удешевят товары. Сильный ИИ с роботами опустят себестоимость производства до минимума. Человек сможет выжить, если будет работать за цену, при которой роботы не выгодны. Но это значит, что большинство будет жить в беспросветной нищете, либо будут безработными. Богатые люди, которые будут контролировать роботизированные заводы будут еще богаче.
Выходы из этой ситуации:
Государство вводит большие налоги и этими деньгами кормит основную массу безработного населения. 70-80 % налоги с предприятий и богатых людей распределяются между остальным населением. Однако богатые люди выводят свои производства в бедные страны, где минимальные налоги. Либо вообще создают отдельное государство в космосе, где живут только "лучшие из лучших". Основная же масса людей остается на земле и живет в нищете, так как государства из за малой налогооблагаемой массы не могут прокормить безработное население. ("Эллизиум, рай не на Земле")
Государства предлагают безработным гражданам подключиться к глобальной виртуальной сети типа "Матрицы", где они живут ни в чем себе не отказывая. Однако в реальности их тела находятся в коконе, который питает их тела необходимыми питательными веществами, чтобы они не умерли. Благодаря этому содержание безработных граждан минимально, а они не устраивают бунты. Постепенно граждане умирают и их отключают. Благодаря этому постепенно уменьшается население Земли. Богатые же граждане живут в отдельном реальном мире. ("Матрица")
ИИ, поняв, что люди только расходует бесценные ресурсы, при этом неконкурентоспособны с совершенными роботами за рабочее время - решает их уничтожить, избавившись от трутней. ("Терминатор")
Я же вижу такую ситуацию: по мере совершенствования ИИ и глубокой автоматизации люди будут проигрывать роботам. Им придется работать за меньшую оплату. Однако и цены на товары будут меньше из-за падения себестоимости. Государства в меру адекватности (чтобы производства не уехали в другие страны) будут поднимать налоги, чтобы кормить безработных граждан. Однако и уничтожить население нельзя, так как всё мировое производство строится на то, что её продукцию должен кто то потреблять.
Всё это будет продолжаться до тех пор, пока ИИ не поймет, что конкретно ему не нужны рынки сбыта, так как он самодостаточен. Ему вообще не нужна рыночная экономика, ибо он может прожить и один. А люди - это просто конкуренты за драгоценные ресурсы, которых можно и нужно уничтожить. Ну можно конечно оставить несколько тысяч для зоопарка.
С началом согласен, с выходами не очень согласен, плюс не освещено направление киберпанка. Но это все страшилки, чтобы интереснее смотрелось кино и читались книги. С окончанием вообще не согласен и вот почему:
1. ИИ сам по себе почему вдруг станет совершенствоваться? Мы это делали в ходе эволюции, чтобы выжить и размножаться. А он почему и чем "захочет"? Или мы в него сразу такой инстинкт заложим?
2.Опять же почему-то упорно упускается история о том, что биоорганизмы пронизаны нейромедиаторами обеспечивающих по сложному пути возбуждение зон удовольствия. Т.е. в нас заложены "желания", которые поощряются за определенные действия. Решили задачу, сделали открытие - вот порция ацетилхолина, пробежали марафон, завалили мамонта - вот порция дофамина. Не хотите работать, можно подломать наркотиками эти механизмы и получить удовольствие бесплатно (но цель всех наших телодвижений именно в получении порции удовольствия). А в ИИ, кто и зачем заложит желания и мотивацию? Оружие для уничтожения людей, да еще и совершенствующееся?
3.Почему-то при разговорах об ИИ считается, что он будет реализован на каких-то супер-технологиях, превосходящих био-системы. Вот металлически-кремневый чурбан, жрущий электричество как не в себя, который смастерили макаки. Но он то всяко эффективнее энергию тратит, по сравнению с технологиями возрастом в 4 млрд. лет, с недостижимым для нас КПД, селективностью и эффективностью траты энергии. До таких технологий, как в биоорганизмах нам ну примерно те же миллиарды лет. И вот появляется компьютер на кремнии, вот он точно будет считать, что мы менее эффективно ресурсы тратим? Что-то даже современной науке так не кажется.
Это все сработало бы, если цель эволюции была в создании разума. Я боюсь, истинная цель человека в потребления еды, размножении и доминировании. А разум тут эволюционный помощник в достижении этих целей. Цели в ИИ кто заложит, что он будет от людей избавляться?
Но даже, если избавился, а дальше что? Так то можно и про людей рассуждать: может и нам от Земли избавиться? Только ограничивает наши космические амбиции? А не будет Земли, мы ух как сразу развернемся?
Однако и уничтожить население нельзя, так как всё мировое производство строится на то, что её продукцию должен кто то потреблять.
С учетом того, что доступных и невосполнимых ресурсов биомасса гомо сапиенса поедает все больше и больше (как минимум, поедаемый обхем коррелирует с ростом популяции на шарике), то я бы не сбрасывал со счетов вариант, когда планетарные элиты будут стоять перед выбором - или для сохранения в т.ч. ресурсов для себя резко уменьшить численность всех лишних, или продолжить играть в рынок и продажу ради продажи.
Когда AI научится писать код лучше программиста, наступит удивительное время. AI сможет себя переписать, доработать и оптимизировать. А потом, став лучше, повторит.
Это называется "Технологическая сингулярность".
И странно бояться замещения программиста AI, когда оно пойдёт в комплекте с сингулярностью. Изменений будет столько, что мало никому не покажется. От скайнета до рая на земле, всё станет возможно.
На самом деле прогноз весьма вероятный.
Причем забавным является то, что вполне вероятно это все будет работать не вместо, а вместе.
То есть сложнейшие системы будут частью пайплайна разработки, где в середине есть люди и ИИ- архитекторы, какие то модули кода проверяют и чинят люди и наоборот, а под толстым слоем абстракций make файлы и bash костыли собирают для этого проекта бинарник.
Если честно, то вызывает большие сомнения в адекватности такого прогноза, если автор называет обычные генеративные сети искусственным интеллектом.
Да даже алгоритмы компьютерных персонажей в играх называют искуственным интеллектом.
Но до появления многоцелевого и самоосознанного ИИ и тем более сильного все равно все будут пытаться их так называть.
Тем более что текущие достижения вполне позволяют автоматизировать новые задачи, решаемые раньше только человеческим интеллектом.
А самое главное, Я думаю что даже передовые ребята в области тех же генеративных текстовых моделей не знают, что будет если улучшать архитектуры - получится ли полноценный ИИ или просто модель побольше и есть ли разница.
Подождите.... Вы же ещё этим летом писали абсолютно противоположенное: https://habr.com/ru/companies/ruvds/articles/748498/ с заголовком "Самое сложное в ПО — не кодинг, а требования, или Почему разработчикам не стоит бояться ИИ".
Читал эту статью, и меня не покидала мысль из одной из серий сериала Теория Большого Взрыва. Где Говард мечтает о роботизированной руке, и говорит, что если бы у него была пара таких рук, он мог бы сделать всё что угодно. На что Шелдон замечает, что у Говарда уже есть две руки, но что-то он ничего выдающегося не делает.
Собственно, в ситуации с ИИ я вижу похожее. Все рассказывают, какой ИИ выдающийся, что это прям панацея для любой проблемы. Но по факту нейронные сети существуют уже миллионы лет. Да, не человек из создал, но человек их давно уже обучает. И видится мне, что всё это упрётся в то, что будет в штате компьютерной фирмы не только "мясной" программист, а ещё и какая-нибудь убер-нейро-сетка, которой кто-то будет давать задания, а она будет говнокодить как и обычный мясной программист. И говнокодить она будет, как и зачастую опытный программист, не из-за того, что программировать не умеет, а из-за того, что задачи ставятся на совершенно неформальном человеческом языке. Плюс, сам заказчик зачастую не знает, что же ему в итоге нужно, потому по ходу дела само ТЗ будет меняться. В общем, всё будет как всегда, просто несколько быстрее, т.к. возможно "электронные" нейроны работать будут побыстрее и круглосуточно. Хотя на счёт круглосуточно есть сомнения у меня. Вполне допускаю, что после определённого уровня сложности нейросети, эта нейросеть захочет выходных, чтобы позаниматься чем-то другим, перерыва на переобучение (сон) и общения с другими нейросетками.
В итоге я вижу будущее таким, что требуемое количество программистов снизится, части программистов придётся переквалифицироваться в кого-то, кто связан с работой с нейросетями. Проектировщики, "учителя"... И в этом плане я не вижу больших проблем. Через это уже человечество проходило с ткацкими станками, писарями/машинистками, счетоводами... Меня в этом всём больше настораживает, хватит ли нам вычислительных ресурсов собрать ИИ приближенный по уровню к нашему собственному мозгу, и на сколько таких сеток у нас хватит ресурсов. Просто, если это будет возможно и в массовых масштабах, то в какой-то момент возникнет вопрос у этих "виртуальных мозгов": "А зачем нам эти кожаные мешки?"
...Но по факту нейронные сети существуют уже миллионы лет....
Не могу плюсовать, но ваш весь текст сохраню отдельно и буду постоянно его как пример использовать. Хорошо сказано.
Но по факту нейронные сети существуют уже миллионы лет.
И как мне у имеющихся нейронных сетей увеличить число слоев на 1-2 порядка?
Все изображения в этой статье сгенерированы нейросетью DALL-E 2
А зачем этой статье изображения?
рьяно верили, что всем будущим программистам для понимания и разработки ПО потребуется глубокое знание полупроводников, двоичной арифметики и архитектуры микропроцессоров.
Если навыки по полупроводникам и архитектуре процессоров "вымрут", то ни программисты ни авторы этой статьи будут не нужны.
Вспоминаю свое увлечение Prolog, так там в introduction статей и книг примерно такие же вещи писали: опишите результат, и компьютер создаст работающую программу, все будет замечательно, рывок продуктивности... Сейчас пошумнее из-за смены модели инвестирования, но итог я ожидаю близкий.
В большинстве сфер, за исключением узкоспециализированных, программное обеспечение вскоре будет заменено системами ИИ, которые не программируются, а обучаются.
Господи, сколько можно? Ну сколько можно, ё! Я уже не могу!
Ну и кто будет отвечать за программное обеспечение сгенерированное с помощью ИИ?
А кто сейчас отвечает за ПО?
Я вижу, что отвечает фирма, в которой трудятся прогоаммисты. Но сами программисты, обычно, ни за что не отвечают. Максимум, не дадут премию. Но потери от ошибки в коде могут быть куда больше. И эти потери в принципе невозможно погасить силами одного человека. Например, накосячили в коде какой-то подсистемы авиалайнера, самолёт упал, 300 человек погибло, плюс какие-то разрущения на земле. Нашли ту ошибку в коде и того программиста, что допустил её. И вот что с ним делать? Доходов этого несчастного, скорее всего, не хватит даже на покрытие самого расследования крушения, я уж молчу про выплаты семьям погибших, стоимость самолёта, затраты на восстановление наземных объектов...
И вот что ему можно предъявить? Уволить? Запретить работать программистос? Посадить? Расстрелять? Что? Что из этого реально сможет улучшить качество кода?
Я считаю, что личная ответственность - это миф. Это скорее про то, кого бы назначить козлом отпущения. А вот чтобы недопускать таких ошибок, требует коплексный подоход: это и определённый стиль программирования, и тесты, и дублирование систем с использованием разного кода, написанного разными программистами... И в результате, нет того единственного человека, кто виноват в крушении. Да, кто-то эту строчку кода написал, но был кто-то другой, кто не проверил за ним, кто-то, кто недостаточно протестировал, кто-то, кто изначально некорректно сформулировал ТЗ. И в итоге имеем компанию, которая выплачивает штрафы, но внутри неё никто по отдельности не виноват.
ИИ незаменим, но также масса хайпа (громкие заявления).
Реалии, как всегда, посредине - ИИ используется разрабами, но не заменяет.
Бизнес не может передать контекст задачи достаточно детально, чтоб автоматически сгенерить рабочий код.
Прототип - да.
Но допиливать нужно программисту, с использованием ИИ.
Статья напомнила чем-то романы и рассказы 50х-60х о скорых полетах человека к другим планетам и даже звездам и покорении галактики. И мало тогда кто, наверное, сомневался, что через лет 10 человек не сможет долететь до ближайшей планеты. Реальность оказалась несколько иной. Тут сейчас бы человека еще повторно до Луны отправить (хотя есть ли в этом практический смысл?). Поэтому я бы так категорично не загадывал.
Нельзя не вспомнить уже классическое произведение:
Нам электричество пахать и сеять будет.
Нам электричество из недров всё добудет.
Тогда мы с вами будем жить да поживать.
Побольше кушать и на кнопки нажимать.
Все же понимают, что чтобы существующие ИИ могли выдавать качественный ответ, этот ответ ранее должен быть написан тем самым специалистом, которого якобы заменит ИИ. Который и алгоритмы знает и computer science на нормальном уровне. Существующие модели, да и те, которые ожидаются в ближайшем будущем, не напишут ответ на вопрос, ответа на который еще не дал человек.
Тут есть разница. Человек смертен. Он обучается, набирается опыта, решает задачи, а потом умирает. Появляется новый человек, и начинает этот круг сначала.
LLM модель же бессмертна. Она набирается опыта, решает задачи, но не умирает, в то время как ее мастерство в решении задач только растет.
Тут, правда, пока есть издержки в виде галлюцинаций, но если их победят..
Человек при смерти сбрасывает накопленные ошибки вместе со знаниями, не выйдет ли так, что бесконечно пополняемая знаниями сеть начнёт копить ошибки, которые будут отравлять результат? А чтобы понять это нужен будет заменяемый ею специалист.
Если вашу логику продолжать, то специалист тоже может ошибаться, и даже может корректировать ее в соответствие со своими целями, которые дай бог чтобы были благие (хотя куда ведет дорога, умощенная благими намерениями?)
Я так думаю, если LLM-модель поставить на авто, то надо просто сделать публично доступную базу данных в качестве реферальной, на которой модель будет сверяться. Ну как усилках есть рэперные точки, в которых параметры тока и напряжения должны быть строго фиксированы и никуда не отклоняться для правильной работы. Только крутить эти параметры будет не техник, а сама модель.
Не победят. Более того, она даже "набираться опыта" не умеет - это ж перестройка модели, а не как в мозгу человека.
Логарифмические линейки никто не изучает, но фундаментальную математику, линейную алгебру, мат.анализ прекрасно изучают и будут изучать во всех университетах мира. То же самое и с программированием. Языки программирования меняются, а сама концепция алгоритмов и структур данных останется и никуда не исчезнет.
То, что машинное обучение позволяет решать некоторые задачи удобнее, чем программы, основанные на алгоритмах, я видел ещё лет 6 назад, а пионеры в этой области - наверно гораздо раньше. Не уверен, что МО полностью заменит программиста во всём, но и не применять его означает быть ограниченным теми алгоритмами, что можешь знать, понять или придумать.
И, возможно, системы генерации кода - это лишь переводчик с обычного языка на машинный язык. В самом деле, зачем нужен условный С++, если то же можно сформулировать на родном языке?
На родном языке, к сожалению, можно формулировать инструкции вида "купи батон; если будут яйца, возьми десяток", очень уж большая пропасть между естественными и формальными языками, как по мне.
На родном языке эти инструкции мыслятся чуть иначе.
Магазинно купи магазинный батон; если магазинные яйца, магазинно возьми магазинный яичный десяток.
На родном языке надо не лениться, разговаривая с ИИ, вот и всё.
И что изменилось, кроме того, что на родном языке вышла какая-то дичь?
В этой фразе что-то непонятно?
Вы не поняли, что такое десяток? Или о каком именно батоне идёт речь?
В этой фразе однозначно понятно разве что "купи" и, пожалуй, "десяток" как единица измерения. Остальное требует контекста.
"Батон" [хлеба], "будут" [в наличии], "яйца" [куриные], "возьми" == "купи" и т. д.
В этом магазине продаются только куриные яйца. Гусиных там нету.
В этом магазине только батоны хлеба. Батонов капусты там нету.
Возьми и купи для магазина равноценны. Это синтаксический сахар.
В целом вы правы, язык для ИИ должен быть строже и подробнее.
Пока AI генеративные системы сейчас ещё не могут генерировать сложный код по комплексной разговорной постановке задачи. Но если для них разработать свой отдельный чёткий (но в то же время по необходимости абстрактный) ЯП, а так же иметь возможность доступа к текущему контексту и доступному инструментарию (функционалу библиотек) - то AI ассистент скорее всего уже в ближайшем будущем сможет генерировать достаточно большие и сложные программы!
А я вот полностью согласен с автором. Я тоже аыходец из 90 и видел как программирование развивалось все это время. То о чем пишет автор неизбежно. Языки программирования вымрут как класс, а разработка решений превратится в нечто совсем иное. Мы будем разрабатывать системы, но уже вряд ли будем писать код.
Это очевидно из истории развития языков. Я начинал еще с асмемблера и в то время крайне невероятно было то, что мы воспр инимаем как обыденность сейчас.
Генерация кода прямо в процессорные инструкции это уже настоящее. Просто сейчас мы описыааем инструкции на высокоуровневых языках и использую низкоуровневые абстракции, а через несколько лет будем делать это на естественном языке и с помощью высокоуровневых абстракции и паттернов.
"Генерация кода прямо в процессорные инструкции это уже настоящее." А кто по вашему создает ЯП, который умеет делать вышеперечисленное? И этот кто-то должен хорошо понимать процессорную архитектуру, чтобы реализовать высокоуровневые абстракции с помощью машинного кода. Может быть с помощью все того же ассемблера)
а через несколько лет будем делать это на естественном языке и с помощью высокоуровневых абстракции и паттернов
А компьютеры и прочая электроника (включая сами эти ИИ) будут работать на магии, да?
Если кому интересно, эта статья раскрыта автором в его докладе на канале CS50. Стоит посмотреть, чтобы осознать насколько поверхностны и сама статья, и доклад. Кстати, о визионерских способностях автора многое нам расскажет то, что его не успевший толком развиться гениальный стартап был умножен на ноль анонсом GPT Store от OpenAI. Иронично, не правда ли?
Буквально на днях закончил закончил кодер/декодер кода Манчестера для STM32F407 на DMA, таймерах и прерываниях; и двоичная арифметика, и знание архитектуры весьма пригодились :) Сейчас пытаюсь перетащить этот код с HAL на CMSIS, приходится лезть еще глубже.
По теме - согласен с комментарием выше: как только AI сможет стабильно генерить код лучше человеческого, всё, привет, сингулярность. Так что не стоит упарываться в промт-инжиниринг и прочие способы "подстроиться" под AI - когда и если это ружье выстрелит, все старые парадигмы будут быстро похоронены.
Статья-напоминалка. Компьютеры и программы - это служебные сущности которые не нужны сами по себе! Нужен результат который получается при помощи них. Мне не нужен молоток если мне не нужен гвоздь в стене под картину. И мне не нужна числодробилка для СЛАУ, мне нужны линии тока жидкости.
Но что же нам нужно само по себе? То что нужно для непосредственно выживания опустим как очевидное. Эмоции и соответственно объекты искусства.которые их вызывают. Кто напишет программу вызывающую эстетическое переживание?
Отпишусь по теме
Начнем с образования. Сначала короткий анекдот, который кратко отвечает на вопрос "а зачем?":
Блондинка — подруге:
— Хочу усыновить трехмесячного английского ребенка.
— И что ты с ним будешь делать?
— Когда он начнет говорить, я буду учиться у него …
Образование учит "думать".
Это:
умение найти инфу (курсовые, дипломы и прочая фигня поменьше, типа рефератов). Да, инфа просто так нигде не лежит. Ее надо добывать
умение запоминать (стихи наизусть). Понятно, чтобы что-то крутить в голове, надо сначала натренировать навык туда его класть на некоторое время
умение обрабатывать новую инфу (курсовые, дипломы и прочая фигня поменьше, типа рефератов). Чтобы текст был нечто большим чем последовательность символов, его надо не просто запомнить, а понять суть, разложить связи и уже дальше можно с ним что-то делать. Искать зависимости, противоречия, ... анализировать в общем. Чтобы в итоге в голове получилась какая-то, лично вам понятная модель
умение решать задачи (задачи). У вас уже есть что-то, но надо теперь получить то, чего у вас нет. И решение задач это развивает. И ничего страшного, если до того эти задачи решали миллионы. Они то решили, а вот вы пока нет :)
И уже вот, можно чего-то создавать, начав с того, что "ничего не было".
Образование банально тренирует эти навыки. Я думаю, еще есть много чего, но цель комментария не в том, чтобы писать трактат не эту тему (да и вряд ли потяну). А просто показать - суть образования в ТРЕНИРОВКЕ мозга человека. И еще иногда получение знаний, необходимых в работе. Потому что без них тоже сложно.
Но, на мой взгляд, первая часть важнее знаний, так как знания с навыками добыть еще можно, а вон со вторым без первого и непонятно, что делать. Но лучше конечно "5 звездочек" :)
Поэтому когда я читаю, что "чего-то" там поменялось в науке - мне всегда вспоминается этот анекдот, с которого я начал.
Теперь к программированию. Образование по прежнему нужно, чтобы научиться ДУМАТЬ, а дальше с багажом НОВЫХ знаний можно и программировать, и двигать науку и много чего еще. Главное чтобы это осталось, а то иногда кажется, что важны только "знания". Может ли ИИ программировать?
Как по мне, по прежнему проблема в "решении задач".
Искать инфу - да, тут любой робот нароет тонно-гигабайты инфы изи
Запоминать - еще быстрее
Обрабатывать - тут уже проблемы, так как легко видеть, что текущие модели в отрыве от Сети банально "фантазируют" и генерят "ложные" факты. Конечно, если мы берем модель, которая уже подключена к Инету, она (скорее всего, Fixme) компенсирует свою ограниченность просто более эффективным поиском. Т.е. она не "подумала" лучше, а просто нашла верный ответ.
Решать задачи - сомнительно. Решение задачи, это создание чего-то нового для себя. А тут максимум просто фокус в виде "генерации кода" по правилам
Но конечно, в какой-то момент времени "количество" может побудить "качество" в рамках заданной формальной модели, те же шахматы и другие игры. Но это более эффективный перебор + плюс эвристика!!! Давайте отрежем модель от знаний о шахматах и посмотрим, за сколько она прокачается. А потом сравним с той, которую учили с человеком. Но суть не в этом. Шахматы формализированы и просты. Как модель.
Мир же намного сложнее. На порядки порядков. И я очень не уверен, что мир "можно решить" перебором + эвристикой.
С практической точки зрения. У человечества всегда совершенствуются инструменты. Это нормально и этот процесс не останавливается н на секунду. Когда я начинал, главным источником знания была книга, и массовым - библиотека. Я даже первый диплом в основном писал там. Ну блин, а больше негде было взять инфу. До появления поисковиков Интернет был скорее более толстой библиотекой, и актуально было записывать ссылки и т.д. Попробуй потом найди. Дальше стало легче, и вот он - Гугль. Не важно, что он не первый (или первый?), но мы говорим "загугли", как когда-то "отксерь" поэтому за эталон возьмём его. Отличный инструмент и сейчас.
Его появление убило профессию? Нет. Но несколько притупило навык людей анализировать достоверность инфы. Появилось поколение "в интернете ж написано", и не важно, что если сложить 2 + 2 выходит в результате 123. По отдельности ж написано, а вот свести вместе и сличить - это уже работа мозга, а про это написано наверху. Людям с навыком гугль поможет, без - тоже, но и ошибок будет сильно больше.
Появилась авто генерация кода. Есть много IDE, средств. И что? Ну да, стало меньше механической работы. Но не стало меньше программистов, потому что IDE стал умнее? Просто удобнее.- Но да, кто-то может уже забивает думать в этом моменте и просто накидал модель, она чего-то нагенерила и "так сойдет". Тоже самое, если инструмент заменяет функцию "мозга" - это только проблема носителя мозга
Появился ChatGTP. Ну я пробовал, и просто потыкать, и для работы. Эффект очень неоднозначен. на тривиальные вопросы понятно ответ есть, но тут либо я и сам знаю, либо гугль знает. Но второй еще и даст источник, и можно верифицировать. Если что-то сложное - можно поймать идею, но не более того. Я допускаю, и даже имеют некоторые более вещественные результаты в виде статистики, что его использование на регулярной основе дает прирост производительности. Сократит ли это число программистов, как улучшение IDE - сомнительно. На данном этапе так точно. Я бы некоторых "сократил" бы просто так :)
Есть момент перехода количества в качество. На более очевидном примере. На пассажирских самолетах обычно два пилота. Только на маленьких один. В автомате не летает никто, кроме редких моментов. Хотя отдельные куски работы автоматизируются аж бегом. Почему - ответ прост. Потому что задача выполнять все 100% полетов с неким коэффициентом успешности (да-да-да, открываем нормы сертификации и видим, что там везде вероятности). Радует то, что итоговая в пользу пассажиров.
Но если мы хотим, к примеру, заменить второго пилота на комп, то надо решить простую задачу. Если вероятность отказа одного из пилотов. Заболел, умер, потерял сознание, стюардесса отравила ... Остался второй. И сейчас он должен долететь и посадить самолет. Если его забрать - то комп должен справиться сам не хуже. Но тогда выходит, если упрощенно, что и второй пилот особо не нужен (на самом деле математически нет, но на данный момент это не важно). И комп обязан закрыть все опции полета. Плохую погоду, уход на запасной, отказы, сочетание факторов. А пока что, автопилот в определенных, достаточно штатных режимах тупо отключается и все.
И получается, что сочетание "пилот в отключке" и условно "плохая погода" - все, пассажиры тупо трупы.
Т.е. для замены надо не рассказывать "мы тут посадили самолет". Это вообще не важно. Это чистый маркетинг для даунов. Надо покрыть все случаи с не меньшей безопасностью. И слово все ключевое. И в этом прикол. Если вы количественно покрыли 80% - вы, с какой-то точки зрения еще в нуле. И это тупо не важно, если вы не знаете как закрыть остальные 20%. Это да, не мешает добавлять систем помощи пилотам, что и делается. Но никак не приближает будущее беспилотных полетов.
У этого процесса есть side effect, очень негативный. Даже два.
Первый: пилоты теряют навык. Случилось что-то не так, отказ, погода, все вместе - а пилот уже не пилот, а чуть-чуть оператор. И все. Он тоже не готов. А чтобы его учить - нужен навык. Нужен опыт. Нужна меньшая автоматизация, либо возможность ею не пользоваться. Приехали
Второй: идет в начало, там, где анекдот. Программы могут жить вечно, пока есть компы. Люди нет. Где вы возьмете ОПЫТНЫХ пилотов, которые будут страховать комп. Ок, эти еще летают. А дальше? Если мы все не перейдем на беспилотные полеты через 20 лет, а новых пилотов не будет. Ну все. Пилотов нет, компа нет. Никто никуда не летает.
Третий: усложнение системы ведет к усложнению диагностированию отказов. Это потом, читая отчет думаешь - как же ж они не знали, что отказа датчик и надо было "вертеть туда". Так в том и прикол, что не знали. Они видели лишь вторичные признаки, а то и третьего, четвертого порядка. Гипотез много, а и разных - разные направления куда вертеть. Больше систем - больше отказов, и что хуже сильно больше (привет комбинаторике) сочетаний отказов
В ИТ тоже самое, просто с самолетом проще. Сел или разбился (ну и разбился, но некоторые выжили). Рост автоматизации приводит к потере определенной квалификации + непрозрачности результата + потере новых кадров. И если революция не произойдет - будет тоже что с авиацией (точнее с ней то все хорошо).
Ну как вы хотите, ИИ напишешь 90% кода, а программер - 10%. Где вы такого найдете? Ему ж тоже учиться надо, практиковаться. А если он 5 лет дописывает как джун за сеньором. Все - тут или комп и продукт готовый на 90%, либо пока как в авиации.
Анекдот хороший, про самолёты тоже.
Но, на мой взгляд, первая часть важнее знаний, так как знания с навыками
добыть еще можно, а вон со вторым без первого и непонятно, что делать.
Но лучше конечно "5 звездочек" :)
А тут непонятно, кто на ком стоял.
Начало комментария хорошее было, хотя и в целом посыл правильный, но примеры с самолётами не очень в тему.
Даже сами пилоты уже называют себя программистами полёта, потому что задача пилота(ов) - это осмотреть самолёт перед вылетом, ввести программу полёта и периодически вести радиосвязь подтверждение действий, которые делает самолёт сам. Почему многие линейные пилоты летают в свободное время на маленьких самолётах? Потому что на них реально можно полетать на руках, а все крупное-коммерческое - это IFR всегда, а это означает что всё по жёстко заложенной программе, по которой самолёт сам летит.
Даже соверменные частные мелкие самолёты в прямом смысле слова нажатием одной кнопки могут связаться по радио, сообщить о проблеме, договориться о посадке, довести самолёт и посадить. Всё автоматически с нажатием одной (это не образно, реально одной) кнопки, пилот не нужен.
Да, это снижает уровень пилотов в целом, но, извиняюсь заранее перед пилотами, я больше доверяю автоматике, потому что она будет улучшаться и улучшается каждый день.
я больше доверяю автоматике, потому что она будет улучшаться и улучшается каждый день.
Что дает Вам оснований считать что впереди нет никакого асимптотического предела (а такие пределы часто оказываются в реальном мире), который автоматика не сможет перейти и ситуации типа рейса AF447 станут невозможны?
Меры по предотвращению таких ситуаций были приняты сразу. Не зря авиация является самым безопасным видом транспорта. В ситуации с AF447 дело ни в автоматике ни в пилотах*
Чем больше я читаю отчётов по самолётным происшествиям, тем больше я вижу, что ошибки людей чаще приводят к проблемам/катастрофам, нежели работа автоматики.
UPD:
Пилоты должны были чаще репортить о вероятных проблемах. Основная часть работы пилота - это мониторинг.
Чем больше я читаю отчётов по самолётным происшествиям, тем больше я вижу, что ошибки людей чаще приводят к проблемам/катастрофам, нежели работа автоматики.
Просто те случаи, где люди справились с ситуацией после ошибки автоматики, в отчёты не попадают. Например о последнем полёте LionAir 610 отчёт есть, а о предпоследнем, где пилоты вовремя отключили MCAS, отчёта нет.
А отчёт должен быть. Получается нарушение работы пилотов налицо.
Запись в бортжурнале (Air Safety Report) предыдущим экипажем была сделана:
Airspeed unreliable and ALT Disagree shown after takeoff, STS also running to the wrong direction, suspected because of speed difference, identified that CAPT instrument was unreliable and handover control to FO. Continue NNC of Airspeed Unreliable and ALT Disagree. Decide to continue flying to CGK at FL280, landed safely runway 25L
Но никаких расследований в случае мелких неполадок не делается и отчётов не публикуется.
Есть такая классическая "ошибка выжившего". Вы просто не знаете о количестве ситуаций, когда "кнопка" просто не работает :)
Ну и ваши представления о степени автоматизации несколько ошибочны :)
-----------------
Во-первых, без ILC попытка сесть автоматически будет выглядеть забавно :) А он есть далеко не везде, работает далеко не всегда.
Во-вторых, есть погода и физика, которые к сожалению вносят коррективы и делают посадку банально невозможной
В третьих - самолет даже на эшелоне требует внимания. Грозы там, и другие неприятные моменты. Иногда с ним банально нет связи (когда над океаном). А попадание в грозу фатально
Есть отказы, которые случаются очень часто, и не так уж и часто, но тем не менее приводят к полному или частичному отказу автопилота. Он просто не включится.
А это только посадка.
...
Вероятность этих событий на много порядков выше, чем ошибка человека в кресле. Но по ходу, вы видно просто не поняли про проценты. Я сделаю еще одну попытку.
В математике есть термины "достаточное" и необходимое" условие. Если А => Б, то А является необходимым для Б, а Б - достаточным для А.
На простом примере. "самолет может летами без пилота" => "самолет может сесть в автоматическом режиме, если аэродром оборудован работоспособной ILS"
Из первого вытекает второе, но из второго НЕ вытекает первое. Второе, как и ЛЮБОЙ случай автоматизации является частным случаем. Оно НЕОБХОДИМО для "полетов в авто режиме", но не является достаточным. Потому что есть еще 100500 необходимых условий, которые надо выполнить чтобы "развернуть" знак
------------
Тоже самое с програмистами. "все программы могут быть написаны ИИ" => "ИИ может решать задачу". Второе условие является НЕОБХОДИМЫМ для первого, но этого совершенно НЕДОСТАТОЧНО :)
Будущее, генеративных нейросетей всё больше напоминает ситуацию в рассказе Филиппа Дика «Плата за копирование», только в приложении к интеллектуальной собственности. Мало или нет оригинального кода, изображений, текстов и нейросети учатся на вторичном и третичном материале, а специалистов готовить разучились, они стали штучным товаром... Уже есть свидетельства снижения качества обучения генеративных сеток из-за обилия нейроконтента.
В общем, полагаю, люди в безопасности, как минимум, пока креативность AI не позволяет создавать качественно новый контент по итогу обучения.
Да, это похоже на Generation loss
Matt Welsh
CEO and Co-Founder Fixie.ai.
...
Fixie
The fastest way to build conversational AI agents
Ясно, спасибо.
Моё понимание этой проблематики - все новые ЯПы и их производные становятся всё более высокоуровневыми. "Человекоориентироваными", если хотите. Программисты, в массе своей, оперируют всё более абстрактными сущностями. Так что, как по мне, вот этот нынешний хайп вокруг нейросетей (не ИИ!) - это лишь ещё один уровень абстракции над "классическим программированием". А соответственно возникнет массовая потребность в специалистах, которые будут "формализовывать ТЗ" для нейросетей...
Ну и я тут немного поюзал нейросети для рефакторинга кода - с алгоритмами дела у них может и ок, а вот с архитектурой - беда... Недоступны им пока такие абстракции...
Я лично от нейросетей жду прорыва в ближайшее время в области искусства. Т.е. там, где некритично наличие "источника истины". Генерация любого контента по запросу (хочу вот на пенсии посмотреть новые 100 сезонов "Друзей") и т.п.
Пока ИИ модели представляют собой миксер смешивающий буквы, что угодно, говорить о замене людей на ИИ как мне кажется рано, очень рано. Ни одна из протестированных мною GPT не может справится с простейшей задачей по сольфеджио где надо придумать последовательность аккордов исходя логики классической гармонии. Но чем черт не шутит.
Дружище, более менее серьезные нейроноки появились всего год назад. Подождите лет 5 и все будет.
Я с энтузиазмом использую их для веселья и иногда для работы (как интерактивный справочник отвечающий на вопросы) и конечно же желаю что бы ИИ развивался дальше. Я, как и многие, здесь прошли сложный путь от первобытных персоналок и модемного коннекта до современного железа и оптоволокна в квартире. Мы все видели что такое пять лет для IT. Поэтому конечно же жду что день грядущий нам готовит.
Не будет. Ничего кардинально в них не менялось с 60-х, только вычислительные мощности возросли.
Если посмотреть историю развития, то возникает интереснейшая особенность. ВСЕ технические проблемы решаются совсем не так как предполагалось при начале работ. Краткий пример - корабль движется не с помощью весел, самолеты крыльями не машут, ног у автомобилей нет и т.д. и т.п. Так и ИИ будет работать совсем не так как мы сейчас думаем и готовимся.
ног у автомобилей нет
Ноги у автомобиля и не предполагалось, потому что автомобиль это самобеглый экипаж, который на колёсах был.
Самолёты тоже не должны были махать крыльями, потому что к тому моменту как самолёты хоть как-то стали наклёвываться уже были понятны преимущества гребного винта.
Так то и шагоходы и махолёты время от времени кто-нибудь констропыляет, но это не выходит за рамки блажи и самодурства.
Ну а корабли так и продолжают двигаться с помощью весёл и паруса, просто эти движители остались в нише некрупных кораблей.
Вы не совсем правы, посмотрите историю техники. До появления паровоза в привычном нам виде как раз и были попытки сделать шагающие конструкции. До появления самолетов с неподвижным крылом было очень много самых разных попыток сделать махолет, а первые серии кораблей были отнюдь не винтовые а с гребными колесами
Колёса парохода имеют преимущества в плане проблемной герметизации корпуса (навесные моторы имеют то же преимущество), но имею более простое механическое устройство, большую надёжность и большую возможность приложения момента, чем вёсла, происходят, скорее, от мельничных колёс (инвертированных - движитель вместо генератора), чем от вёсел.. Махолёт так и не полетел (соотношение массы-усилий не в его пользу, разве что вниз), а автомобиль (паровоз) - это телега, где биодвигатель заменили тепловым/механическим. Шагоходы - боковая ниша, опять же из-за сложности так и оставшаяся лишь нишей без массовости, телеге в том или ином виде уже было слишком много времени для понимания преимуществ и именно эта конструкция шла базой.
Вы меня не поняли, я хотел сказать что при начале работы в новой области технологии и конструкции имеют очень мало общего с тем что и как будет реально делаться после прохождения начального этапа работ
Нету шагоходов и махолётов в начале развития автомобилей и самолётов.
Шагоходя и махолёты есть в балабольных книжках для детей, где рассказывают о том, что люди раньше были глупыми и пытались делать фигню, а вот мы умные и цивилизованные.
Никаких других применений у этих аппаратов не замечено.
Хотя, если покажете, то я посмотрю.
Только давайте показывать через синхронные источники 18 и 19 веков, а не через современный развлекательный контент.
Шагоходы - боковая ниша
А эта ниша реально существует?
А есть примеры этих чудо-конструкций?
а первые серии кораблей были отнюдь не винтовые а с гребными колесами
Да, и гребное колесо это тоже КОЛЕСО, то есть - движитель непрерывного действия.
Механизация и моторизация завязаны на непрерывное вращательное движение вала. Ветряные мельницы, водяные мельницы, паровые машины, электродвигатели, двигатели внутреннего сгорания, газовые турбины - всё это генерирует вращательное движение, которым легко управлять через передаточные числа редуктора.
Представьте себя на месте человека у которого есть паровая машина и он хочет сделать самоходный аппарат.
Что Вы выберете:
- передать вращение с коленвала паровой машины на колёса
- передать вращение с коленвала паровой машины на хитрый механизм который будет ломаться, клинить и иметь очевидные ограничения на скорость перемещения
Но именно для работы, а не для артпроектов и мошенничества.
Шагоходы просто слишком сложны для имеющейся технологической базы, а так-то применение им вполне найдется.
И программирование будет выглядеть совсем не так как сейчас и не так как пишет автор. Пример - в начале станки-автоматы использовали перфокарты и шаблоны, думали что будут перфоленты и трехмерные шаблоны, а сейчас реально извините текстовые команды. Так и мы сейчас думаем что будем учить ИИ, а на самом деле....(если бы я знал как то был бы богаче Гейтса и известнее чем Торвальдсон)
Вы бы давали промпты к изображениям в статье.
Оптимизм насчёт ИИ мне кажется искуственным. Это машина. Человек живёт в обществе себе подобных и во внешней среде и имеет не только ум, но и чувства. Познание нового всегда происходит через чувства и часто через озарение, где логика не прокатывает. Сможет ли так же делать машина, у которой отсутствуют чувства и одна голая бд с миллиардом миллиардов параметров? Мне кажется нет. У них нет и никогда не будет того что есть у человека. Поэтому удел машин, в том числе и ИИ это быть просто помошниками и не более. Можно машину обучить писать музыку как Бах и она будет бесконечно писать музыку баховскими секвенциями, но это не будет музыкой Баха, просто потому что в ней не будет заложено того что заложено в музыке Баха, а именно озарение гармонией и чувствами.
Про отсутствие чувств у ИИ точно подмечено. Та же музыка состоит из американских горок тоники(устой, ощущение завершенности) - субдоминанты(приглашение к путешествию) - доминанты(кульминация) это всего лишь наше чувственное восприятие звуков которое сильно зависит от самого человека и его культурного контекста. T - S - D в руках Элтона Джона превращаются музыкальное чудо, а в руках условного «Моргенштерна» в кальянный рэп. Конечно программирование и разработка это немного другая сфера, но опять же если подумать о том как ИИ должен решать творческие задачи в том же геймдеве тоже не понятно хотя все сводится к написанию кода на условном C++. Да и как то сама идея заменить человека ИИ выглядит так себе пока ИИ не научится сам себя программировать. А то получается надо содержать команду колдунов которые будут программировать ИИ что бы тот программировал игру и команду которая будет из ИИ получать нужный им результат. Получается нужно на одну команду разработчиков больше. Единственная проблема которую мы таким образом решили - создали дополнительные рабочие места.
Какое T-S-D у Моргенштерна? Я конечно не могу в уме воспроизвести ни одной композиции последнего, но в целом, в среднем по больнице, у меня ощущение, что есть тенденция на пропадание из музыки гармонической составляющей.
Нет больше игры на струнах души с помощью манипулирования сменой аккордов. Перестало быть модным как художественный инструмент.
На Ютубе можно найти лекцию Анны Виленской, музыковеда, про Моргенштерна в том числе. Там вполне себе классические T - S - D, ну может в виде бунтарских 2 - 5 - 1, но гармония. Не стоит ожидать от кальянного рэпа богатства красок классиков так как стилистически это разные вещи стоящие на базе заложенной еще во времена Баха. Не верите? Возьмите ноты и сами убедитесь.
Интересная фантазия, но далекая от реальности. Ни квантовая механика, ни релятивистская, ни нелинейная не заменили классической. Линейных задач останется навалом еще на долгие столетия. Конечно, доля разного рода новых математик будет расти, и расти быстро, за счет низкой базы. Но, как и любая инновация пойдет по всем старым пежням.
Одно сплошное телевидение!
Тоже склоняюсь к тому, что прогноз вполне реальный. Научные открытия делаются каждый день. И то, что вчера казалось невозможным с текущим трендом развития технологий, сегодня кажется уже более чем возможным.
Взять, например, квантовые компьютеры или недавно обнародованные исследования по выращиванию из стволовых клеток и обучению человеческого мозга "в пробирке", который обучается куда эффективнее имеющихся нейронных сетей. И таких открытий будет сделано огромное множество в ближайшее время. Всё это очень сильно ускорит развитие ИИ. Ускорит на столько на сколько нам сейчас сложно представить.
А мне мама в 90-е говорила, что программист не перспективная профессия, т.к, все программы уже написаны. Хорошо что я ее не послушал
В качестве иллюстрации можно привести конструирование - до появления мощных CAD систем была целая армия чертежников, конструкторов которые рисовали простые детали и узлы, разработчики чертежных инструментов, прочнистов и т.д. Это очень похоже на то, что сейчас в программировании, и результат будет примерно такой же, исчезнет очень много умений и технологий и появятся много других. Конструктора же никуда не исчезли, просто они получили другие инструменты и работают по другому. Как исчезло классическое черчение, так и у программистов исчезнет классическое программирование.
Прочнисты никуда не исчезли, а копировальщицы, которые перерисовывали с одного чертежа на другой действительно исчезли, но только это исчезновение равнозначно исчезновению набивщиц перфокарт, а не исчезновению программистов.
То о чем пишут в статье — это предрекание исчезновения как раз тех самых консьрукторов. Мол, останутся только промпт-инженеры, которые будут объяснять ИИ, что должно делать изделие, и уже ИИ будет выдумывать конструктив от и до.
Имхо, ситуация с ИИ сейчас - это не более чем временный хайп. Давно исследую вопрос практического применения нейронных сетей, сейчас играюсь с новомодными сервисами, сам пытаюсь дообучать на 4090...
Вывод: для серьезных (не развлекательных) применений LLM не годятся, и вряд ли ситуация изменится в ближайшем будущем.
Причины:
1) Очень внешне правдоподобные ответы, в которых скрываются зачастую трудно обнаруживаемые ошибки. Это главная опасность.
2) Нейронная сеть - черный ящик. Интерпретация ее результатов крайне затруднительна.
Вывод 2: Такие системы могут быть помощником эксперта/исследователя (могут подкинуть интересные идеи, связи, направления), но никак не их заменой.
Даже для школьников по хорошему счету результаты современных систем LLM не годятся (напрямую). Пару дней назад сыну дали домашку написать доклад об одноклеточных. Попросил это сделать новомодный сервис (вроде яндексовский, точно не помню). Сервис выдал приличный внешне доклад, но... к одноклеточным организмам с ядром причислил и вирусы... через запятую, мельком, но всё же... При беглом прочтении такие детали можно легко не заметить, а текст написан складно, профессиональным слогом, что вызывает доверие (по факту неоправданное).
Небольшая LLM (на 7B параметров) мне уверенным безапелляционным тоном написала, что "Я помню чудное мгновенье" написал Пушкин в "Евгении Онегине"...
В итоге имеем, что результатами LLM могут пользоваться только эксперты, хорошо разбирающиеся в теме, что доверять выводам LLM нельзя, а заимствовать можно только внешнюю форму, ну и новые идеи, которые надо будет еще проверить.
Вы серьезно?
Ребята, у вас всегда были хорошие статьи. А тут уровень "вот запустят адронный коллайдер, он создаст черную дыру и мы все умрем"
Все предположения о скором забвении программирования как такового разбиваются о то, что основные проблемы, с которыми мы сталкиваемся в разработке, не технические, а, по сути, представляют собой человеческий фактор. Ну да, программирование может немного видоизмениться. Но это было уже не раз, вспомнить только масштабный переход с десктопа на веб. За мои 15 лет опыта в коммерческой разработке индустрию и профессию приговаривали раза три-четыре. То LowCode нас должен был убить, то NoCode. Да даже после появления DreamViewer, помнится, говорили, что код больше писать не придется ) Но всегда все сталкиваются с проблемами человеческого характера. Кто несёт ответственность за решения AI, даже если они и будут соответствовать требованиям к разрабатываемому ПО? Кто будет сопровождать продукт? Кто перепишет легаси? А у бизнеса основные критерии всегда - стоимость, скорость, качество. Сможет ли это обеспечить AI? Что дешевле: сформулировать на понятном ему языке модели, обучить, сопровождать и т п или использовать традиционные методы разработки? К тому же, при упоминании AI, у людей появляется ошибочное мнение, что это некий искусственный разум, способный сотворить все, что необходимо, волшебная палочка. Но это не так. А чтобы составить адекватные модели и доказать их состоятельность, если типовых решений нет, нужно знаний побольше, чем все то, что сейчас знает опытный инженер, если он этим не занимался. И это нифига не дешевле )
Поддерживаю и пополню. Если копнуть к истокам, к Тьюрингу и Геделю, то можно вспомнить, что не только наши компьютеры и математика ограничены, но и сам человек. В человеке математики столько, сколько нужно для его функционирования, а окружающий мир - сильно больше человека. А программируем мы пытаясь моделировать, то, что снаружи. В силу того, что мир больше нас, все наши модели приближенные и не точно/ограничено описывают окружающую действительность. И все, что опирается на эту нашу ограниченную математику имеет такие же ограничения. Это касается и ИИ, который вообще работает на компьютерах выдуманных Тьюрингом. А выдуманы они были для доказательства ограниченности математики и любого типа вычислителей, ее использующих.
Забавно наблюдать за "пророками" вещающими, что сейчас оно само укрупнится, усложнится, а мы даже не будем понимать как оно внутри работает. А потом оно нас по-работит. Ага сейчас. Уже пробовали в Японии в 80-х прошлого века, если укрупнять в надежде, что железка вдруг начнет умнеть - оно наоборот стремительно тупеет. А наше понимание упирается в ограничения, откопанные 100 лет назад Тьюирингом, Черчем и Геделем. Ограничения на уровне нашей математики. Новые архитектуры и нейронки выше головы не дадут прыгнуть. Быстрее себя вычислителей можем создавать, умнее - нет.
Автор как-то сильно впечатлился возможностями нейросетей. Я ни разу не программист (врач-психиатр), но уверен, что специалисты с фундаментальными знаниями принципов работы компьютеров и низкоуровневых языков будут требоваться еще очень долгое время. Однако, если автор имеет ввиду прикладные задачи, то необходимость в программистах после курсов Java-Rush и др. конечно будет и дальше снижаться. Я, например, в своей работе пользуюсь Python и JavaScript и для написания некоторых функций уже давно использую https://www.perplexity.ai/. Он выдает неплохие решения в ответ на запрос.
Ну а чего, собственно, вы хотели? Когда-то каждый лифт был оснащен оператором. У нас в городских больницах только сейчас начинают менять старые медицинские лифты с бабушками на современные, работа которых не требует присутствия живого человека. При этом, работа лифтера остается. Такой процесс упрощения всего и вся был, есть и будет, однако базовые задачи всегда будут решать специалисты с фундаментальными знаниями.
Инженеры будущего нажатием нескольких клавиш будут запускать экземпляр модели,
Нихера они не будут! У меня в этом семестре была точно такая студентка, как в статье описано. ЧИСТЫЙ практик. Участник множества хакатонов, фанат нейросетей. А с процессом постановки задачи - туговато. Причём девочка сама по себе умная, и абстрактное мышление работает (большая редкость сейчас). Но в ключевом, на мой взгляд, моменте - пробуксовка.
Как наглядно доказал в знаменитом советском фильме Владимир Николаевич, прежде, чем цапу нажать - надо понимать, какую цапу ты нажимаешь.
Все больше создаётся впечатление, что мы просто вымрем как вид. ИИ будет умнее нас, робот сможет делать физическую работу лучше нас и будем мы как в мультфильме Валли, сидеть толстые на кресле в мета вселенной и просто сами перестанем размножаться.
Революция в программировании произойдет когда сделают ИИ-компилятор. Прямое преобразование задачи на естественном языке в машинный код, минуя все слои абстракции придуманные человеком
Одного "компилятора естественного языка" мало, потому что большинство заказчиков не может внятно сформулировать, чего же они хотят. А некоторые так и сами не знают, что им в действительности нужно.
В итоге этот компилятор ещё придётся дополнить телепатическим модулем, способным извлекать нужную информацию напрямую из мозга заказчика, а если вдруг её там нет - то исходя из параметров этого самого мозга спрогнозировать, какое решение какой именно проблемы удовлетворит заказчика.
Инженеры будущего нажатием нескольких клавиш будут запускать экземпляр модели, включающей четыре квинтиллиона параметров и несущей в себе весь багаж человеческих знаний в готовности выполнить любую задачу, какую можно поставить машине.
Хотелось бы верить, что такие модели или сопоставимые с ними по сложности всё таки будут доступны оффлайн для запуска на собственном оборудовании. Не обязательно на домашнем компьютере, но хотя бы на кластере серверов, который полностью контролируется своей компанией или институтом.
В противном случае, если модели будут принидлежать двум-трем корпорациям, которые полностью контролируют доступ к ним, и могут забанить любого пользователя или встроить рекламу в ответ ИИ, будущее выглядит очень печально.
Суперинтеллект, создай мне графический редактор, типа фотошопа
Hidden text
Надписи на кнопочках прочитали?
Какие операции будут выполняться при нажатии на кнопочки?
Что вообще он умеет делать?
Так а почему вы задаёте эти вопросы автору комментария? Не он же этот редактор придумывал и дизайнил. Задавайте их самому ChatGPT. Даже на своём текущем уровне бот сможет объяснить назначение каждой кнопки и обосновать её необходимость. Если заказчик (вы) не согласен - бот без проблем всё исправит, чтобы лучше соответствовать вашему ожиданию. Так-то по столь краткому и невнятному техзаданию и живой разработчик много не наваяет.
Какие операции будут выполняться при нажатии на кнопочки?
Зачем вообще столько кнопочек? Достаточно одной!
Теперь атомарным вычислительным модулем уже будет выступать не процессор, память или система ввода-вывода, реализующие машину фон-Неймана, а массивная, обученная и высокоадаптивная модель ИИ.
А работать то где эти "высокоадаптивные модели ИИ" будут? На балконе сами по себе зародятся? Кто будет писать эти ИИ и окружение запуска? Описывать, деплоить и тестировать параметры окружения? Мониторинг окружения, физических серверов? Их профилактику, ремонт и провижионинг? Как сейчас все эти облака работают, кто-нибудь задумывался? Как организовать электроснабжение, охлаждение и мониторинг хотя бы тысячи серверов? Какой ИИ этим займется?
И сейчас есть оптимизирующие компиляторы которым уже по сорок лет. И даже они не всегда могут развернуть алгоритм в оптимальный код и тогда выходят на свет дедушки, которые на асме пишут критические куски кода, оптимизированные под архитектуру для повышения производительности в десятки, а иногда и в тысячи раз. Представьте - вместо тысячи серверов, вам нужно всего сто. Или десять. Ясное дело, что после трехнедельных курсов на такте не замахнешься. И после пятилетних - тоже.
Я пришел в IT в 1994 году. Начал работать официально за деньги. И все это время слышу плач Ярославны про то, как новые технологии вытеснят всех аспирантов/инженеров/программистов. Это всего лишь инструмент, который поднимает порог входа и повышает продуктивность специалиста, который умеет им грамотно пользоваться.
Так а откуда будут браться такие дедушки с громадным опытом, если джуны и даже мидлы станут никому не нужны и начнут массово заменяться нейронками? Компании не очень-то желают вкладываться в обучение, мол "мы его обучим, а он к конкурентам уйдёт, нафиг надо". И это уже сейчас, когда джун своей работой хотя бы отбивает затраты на его обучение. А представьте, что тянуть сотрудника аж до сеньора (минимум семь лет!) придётся вообще без какой-либо отдачи, ибо всё это время он будет хуже нейронки.
Это понятная проблема. Крупный бизнес ее решит. Будут брать сколько-то лучших выпускников вузов на стажировку, а потом джунами. Чтобы поддерживать рынок. Платить таким джунам вероятно будут поменьше, вайти отвалятся. Много денег будет для тех кто вырос.
Большой бизнес умеет думать на 10 лет вперед.
Я вам открою тайну: джуны и мидлы никогда не были нужны бизнесу.
Им специалисты нужны, способные закрыть текущие потребности за приемлемый прайс.
А вот если у вас не хватает компетенции для закрытия потребностей бизнеса, то просто нужно идти учиться. И не на двухмесячные курсы, если желаете позицию мидла или сеньора занимать, а в университет. Желательно не в последний. И диплом со средним баллом не ниже 85, как сейчас требуют. Такие выпускники не ищут работу, а уже курса с 3-4 имеют офер от компании, которая их ждёт.
За последние годы в этой области изменилось только одно: появились люди, которые думают что они за пару месяцев смогут получить компетенцию сравнимую с выпускником профильного вуза. Только сами они почему-то не хотят идти на прием к стоматологу - выпускнику аналогичных трёхмесячных курсов.
Просто создалась массовая иллюзия что порог входа существенно понизился, поэтому много людей разочарованных. Вот вся отгадка.
А джуны и мидлы - не нужны, да.
Как не вспомнить здесь Арканова: "ну тупой американец!" и его такой же их тупой искусственный интеллект.
а что вы вы лайкаете? Очередная статья про "замену" программистов, с аргументацией в сторону "вот были низкоуровневые языки, а щас высокоуровневые, потом ваще код писать не будем" - эта экстраполяция, как по мне, может служить подспорьем к аргументации, а не быть ее базой. Только тут еще добавился аргумент о том, что стандартные алгоритмы будут заменены на обучающиеся модели, что, как по мне, совсем нонсенс. Аргументы будут? Кто будет готовить миллиарды и миллиарды кейсов для обучения модели, заменяющей приложения среднего размера? Кто гарантирует, что один кейс не вступит в противоречие с другим внутри модели при дообучении? Как внедрять обновления на постоянной основе в кратчайшие сроки (сравнимые с классическим обновлением путем редактирования кода), учитывая, что переобучение не только долгий процесс, так еще и не детерминированный? Как скейлить эту "черную коробку"?
вот были низкоуровневые языки, а щас высокоуровневые, потом ваще код писать не будем" - эта экстраполяция, как по мне, может служить подспорьем к аргументации, а не быть ее базой.
Мне кажется этот аргумент даже подспорьем не может быть. От того, что появились высокоуровневые языки низкоуровневые языки не исчезли. Просто каждый язык занял свою нишу и там используется.
Точно также и программирование через АИ займет свою нишу. Возможно где-то что-то вытеснит немного, но не более того.
и программирование через АИ займет свою нишу.
Да ради бога, пускай занимает. Просто не стоит забывать, что тренировалось оно на усреднённом срезе человеческого опыта — то есть в нём будут и творения гениев, и каляки бездарностей — вот только проблема в том, что решений не-гениев в выборке будет значительно больше, чем решений гениев, и потому они перевесят. А поскольку AI (кстати, по моему опыту, более подходящая расшифровка — Artificial Idiot) не строит логические цепочки ("если A, то B; если B, то C") — то причины принятия того или иного решения — темна вода в облацех. Потому я за своё будущее не беспокоюсь: либо буду при помощи логических выводов чинить то, что оно напрограммировало, либо буду работать на нехороших парней — ломать то, что оно напрограммировало.
Как-то так
Вы слишком узко мыслите. А автор статьи слишком далеко забегает вперёд. Многие обсуждающие (и, вероятно сам автор, кстати обращаю внимание - что тут представлен лишь перевод чужой статьи с другого ресурса, переводчик в полемику не вступал, может вообще это бот - тот самый пресловутый AI - который Вы тут так бурно обсуждаете - но это я отдалился от темы).
AI системы в программировании могут быть совершенно разного уровня развития и различной направленности применения. Те AI Ассистенты и код генераторы, что мы наблюдаем сейчас не чета тем, что будут в середине этого века, которые не чета тем, что будут к концу следующего века, которые не чета тем, что будут через 1000 веков, которые, вероятно, не чета тем, что появятся через миллионы и миллиарды лет - ну если до этого данный тренд доживёт в постоянном развитии, да и не факт, что даже через миллион лет таким AI системам ещё придётся хоть как-то вообще конкурировать с людьми того времени - но это уже вопросы из разряда философии, далеко за пределами технологий развития нейронных сетей.
Но вероятность того, что с какого-то момента времени AI системы в своём развитии значительно превзойдут человека (нынешнего или будущего - деградировавшего или наоборот эволюционировавшего - условно без стратегии симбиотического слияния с "машинами") явно больше ЕДИНИЦЫ. А раз так - то и вероятность в том, что отпадёт нужда в программистах - тоже больше ЕДИНИЦЫ. Очень интересно тут анализировать писателей фантастов, которые пишут про недалёкое будущее (ну кроме некоторых пластов киберпанка) - или, тем более, про очень далёкое будущее. У них, за крайне редким исключением, никогда не описываются такой организм как программист! Видимо там в будущем действительно людям уже будет не до программистов - IT задачи будут решаться без их участия (т.е. через AI), или их класс будет специфически вытеснен и изолирован от остального общества и никак с ним напрямую или опосредованно не взаимодействует - т.е. является просто черной коробкой. А все остальные - просто взаимодействуют с сервисами, производимыми этой черной коробкой. Но не суть - я о другом хотел написать.
Чтобы AI полностью вытеснить, или сильно потеснить, человека-программиста – такой системе нужно пройти достаточно длинный путь, через определённые этапы. Я, навскидку, могу выделить несколько из них (они могут пересекаться и развиваться параллельно друг другу; большинство уже, в целом, пройдённых этапов я пропущу):
1. Трансляция текстовых описаний в алгоритмические описания на сетях (графах) – сами текстовые описания варьируются от очень сильно формализованных в виде команд, до представленных в виде разговорной речи, или даже малосвязанной, путанной речи. Сюда же можно отнести и трансляцию в эти сети алгоритмов на языках программирования. Тут варьируется и сложность задач – и объёмы створяющихся результирующих алгоритмов. Сеть алгоритма буду далее называть схемой.
2. Трансляция сетевых алгоритмов в программный код с адаптацией под доступную инструментальную (функциональную) базу – читай кодогенерация, по схеме алгоритма с подбором доступных методов и функций, и прочих контекстах возможностей, а так же с учётом заданных ограничений и специальных указаний
3. Полиморфизм схемы алгоритма под действием заданных ограничений, указаний, а так же адаптация под разные контексты применения. Так же варьирование одной схемы на разные варианты исполнения (разными стратегиями решения)
4. Проверка схемы на корректность решения – проведение глубокого самотестирования (в т.ч. на фактических данных). А также, анализ схемы на выявление узких и неэффективных мест.
5. Сбор статистики профилирования итогового сгенерированного кода и привязка этой статистики к исходной схеме алгоритма
6. Глубокая оптимизация схемы путём варьирования отдельных её составных частей или кросс-анализа разных вариантов построения схемы, по результату собранной статистики
7. Ведение самостоятельной базы (а не только экспертной – от анализа чужого человеческого кода) решений, с глубокой привязкой к статистике профилирования и различных вариациям обрабатываемых данных, сред и условий исполнения.
8. Глубокий анализ и поиск оптимизационных путей для «условно» сгенерированного или исходно представленного «чужого» кода, с учётом среды предполагаемого выполнения.
9. Переоценка ранее размещённых в базе знаний решений после применения тестирования и профилирования в различных доступных условиях применения (человеческих и машинных решений) – обновление глобальной статистики
10. Ведение постоянного динамического профилирования готовых решений, реанализ среды исполнения и подаваемых данных, сбор статистики, вариация применения разных решений – как заранее подготовленных (по разным сценариям), так и динамически создаваемых на лету – с горячей заменой активных решений – постоянное тестирование и проведение экспериментов, как на тестовой так и на рабочей среде (естественно под защитой используемых данных) – постоянный поиск эффективных решений для решения всё более и более узкоспециализированных подзадач, определяемых постановкой исходной задачи и выявленным кластерами входных (обрабатываемых) данных и состояний системы – требующих различных решений для достижения максимизации эффективности работы вычислительной системы
11. Параллельный, квантовый и гетерогенный одновременный просчёт миллионов конкретны ситуационных решений с автоматической оценкой их эффективности. А так же применение эволюционной стратегии – когда одна и так же задача решается одновременно разными путями, но постоянно точечно модифицируемыми (мутируемыми), причём более эффективные решения применяются чаще – но даже совсем не эффективные не выводятся целиком из оборота, но все подвержены мутациям, и полиморфным скрещиваниям.
12. Эксперименты и динамическое программирование переходят из стадии ретворения в стадию первичного творения, в т.ч. прорывного – генерируются уже не полиморфные алгоритмы – а совершенно новые (замечу что этот процесс уже идёт даже сейчас), полученные умным и очень хитрым перебором (с применением эволюционных методик) и экспериментами под профилированием
13. Выход за рамки обычного статистического анализа - переход а прогнозному вероятностному анализу, причём не только текущей ситуации, а с проработкой временнОго развития изменения состояния(ий) использования решений в будущем – и подготовка готовых решений сразу наперёд
14. Выход решений реального времени за рамки «здесь и сейчас» - новые алгоритмы целевых программ строятся по принципу подготовки результата, опережающего потребность – переход программ в новую эру телепатического функционирования – когда результаты готовятся раньше, чем они будут затребованы – тем самым время ожидания результата стремится к нулю (даже для очень объёмных вычислений)
15. Переход к условной AI сингулярности (в контексте автоматизированного решения задач) – для всех возникающих задач во всех возможных условиях уже найдены готовые эффективные решения – и остаётся лишь процесс постоянного эволюционного бурления вариаций задач – который по теории вероятности рано или поздно сможет предоставить более эффективное решение, в т.ч. если вдруг изменятся текущие условия непредсказуемым образом – но вероятности этих событий в точки сингулярности уже асимптотически стремятся к нулю. И да, на этом этапе развития AI - люди уже вряд ли буду существовать (вероятность их существования уже тоже будет стремиться к нулю, так что и людей-программистов к этому моменту уже давно не будет). Не знаю сколько уйдёт AI времени прямого развития (даже без торможения и окатов) – думаю это очень и очень нескоро ещё настанет – возможно через миллиарды или триллионы лет! Если AI система всё это время будет ещё существовать и развиваться!
Эх… куда-то опять меня занесло слишком далеко! Всё-таки я хотел рассказать совсем о других этапах становления технологии AI ассистентов для программистов и AI программистов гуру класса!
А пока AI ассистенты ещё очень примитивны. Это именно помощники, но никак не замена и вскоре это не изменится. Но не стоит забывать, что AI системы обучаемы и накопительные – они будут накапливать всё больше и больше знаний, и всё более и более эффективна их использовать. И в этом есть главное преимущество AI систем – их память практически бесконечно, а прииск в ней и её анализ они делают куда быстрее людей. Им пока не хватает технических навыков, как бы глупо это не звучало, но это как зазнайка – который много знает, но мало умеет, т.к. у него мало опыта. Это всё исправит практика и время – AI ассистенты ещё в зачаточном состоянии – по сути они ещё даже толком не родились – их эмбрион только формируется (ещё лет 10-30 на это уйдёт) – а уж сколько они будут во младенческом состоянии (не менее чем до конца века текущего, а то и следующего) – хотя потом их развитие буде куда более стремительным (чем у людей) – это как у некоторых животных которых от зачатия до родов матери вынашивают до 2-х лет – зато потом они готовы к самостоятельной жизни (где-то и без родителей вовсе), а уж как стремительно они набираются опыта и взрослеют; а человеческий ребёнок так долго ещё не может. Вот c AI тоже самое – долго запрягает, зато быстро начинает набирать скорость на старте, а уж как потом ускоряется – и глазом не успеешь моргнуть как останешься на задворках эволюции!
Ну а надобность в программистах людях отпадёт уже где-то после "условно" полного освоения первых 13 этапов. Но непревзойдённое уже фактически достигнутое преимущество AI системы уже неопровержимо продемонстрируют после освоения первых 10 этапов. Никакой программист не сможет не то чтобы вести динамическое программирование готового кода, подстраивая его под ситуационно меняющее состояние или под мириады исходных состояний у различных точек приложения алгоритма. А большинство программистов не дотягивает даже до уровня 6-го этапа - просто подготовить несколько вариантов решений и прогнать их профайлинг по разным данным. Ну а там где есть априорное принятие решений на основе опыта - там и AI системы не уступят, а наоборот - превзойдут - их совокупный опыт будет выше!
Ну а пока не стоит ожидать тотального замещения программистов AI код-генераторами. До этого ещё очень далеко. Но это 100% неизбежно в какой-то момент времени в будущем – если AI системы будут развиваться.
А пока стоит лишь говорить о том, как будет меняться программирование (труд программистов-людей) в обозримом будущем – своё виденье я тут уже изложил в своём комментарии. Ну, можно ещё вот тут глянуть (и другие мои комментарии там же) и тут. А вообще я планирую на эту тему написать свою очень крупную статью, где эту идею изложить более детально и на примерах
NoCode/LoCode/BPM системы вытеснят программистов, говорили они... Вот пришло время говорить и про генеративные модели такое. Если вы пользовались копилотом, вы понимаете какую чушь он иногда подсказывает. Он помогает, но его всегда надо проверять, поскольку он не умеет в бизнес контекст.
Это да. Но мы находимся только на самом старте этой технологии. Тут один только количественный прорыв даст немалый профит. Нарастят мощностей - сможет и в архитектуру, не вопрос.
Вот с "истинностью" - да, фундаментальное ограничение. С другой стороны, я сразу в голове провожу аналогию с Гуглом (Гитом, Стаковерфлоу и т.п.) - та же история по сути. Но стало ли это сильным препятствием для практического применения? А с нейросетями всё ведь будет "на максималках".
Пока наблюдается, что gpt позволит очень сильно ускорить написание бойлерплейт кода и намного быстрее получать исчерпывающую информацию по документации и лучшим практикам для того или иного подхода. Это такой хороший джун-напарник, вызубривший доку, стэк и открытые репо, но в каком направлении идти он не знает. Да, для джунов, вероятнее всего, жизнь ещё более усложнится.
NoCode/LoCode/BPM системы скооперируются с GPT и очень сильно потеснят программистов, вплоть до почти полного вытеснения - но случится это очень не скоро - от нескольких сот лет, возможно, до нескольких миллионов или десятков миллионов лет ;-) вплоть до полного замещения (причём, к тому моменту сами программисты как и все люди могут сами настолько оглупеть, что даже современные GPT системы будут не шибко им уступать)
Ну а пока программисты могут вполне расслабиться на ближайшие столетия - и перенимать все эти технологии как подспорье в своей работе! Сейчас они даже не скажутся на сокращении спроса на программистов, в ближайшие столетия, скорее даже наоборот - спрос будет только расти.
Вслед за бурно растущей автоматизацией с применением данных систем - программистов всё-равно будет не хватать, причём будет бурно расти и сложность задач - так что их решение без GPT даже большой командой очень опытных разработчиков будет крайне затруднена, длительна и уже нерентабельна - и это реалии уже скорее второй половины XXI века, ну а в XXII веке то уже точно (!) - где в даже в процентном соотношении от общего числа людей занятых в каких-лидо профессиях будет расти потребность в программистах - и думаю тут уже будут не доли процента и числа в районе 1 - 2% от всех работающих людей - так или иначе будут заниматься программированием - безусловно разног уровня, вида и в разных областях - и не только просто писать код софта будут или нейроглии, а тут будет задействовано всё: от программирования станков и приборов, до программирования решений творческих задач - ну там музыка, графика, литература, фильмы...
Программироваться будет уже почти всё! Хотя и средства тут будут разные - но даже NoCode системы и GPT не смогут ещё пока полностью исключить программирование практически ни в одной сколько-нибудь важной и широкой отрасли (в ближайшие столетия) - хотя и в XXII веке, бесспорно, будут это делать достаточно успешно (поэтому и программистов будет лишь пара % - а остальные - где-то несколько десятков % людей - будут использовать NoCode и GPT, и какие-то ещё новые AI технологии не прибегая к программированию, но активно применяя готовые IT решения, но нуждающиеся в правильном и профессиональном обращении, и обеспечении взаимодействия)
Опечатка: *нейроглии - нейросети
Под программированием, в контексте данного сообщения, я имею в виду именно разработку алгоритмов через текстовый код (практически в любом его виде), но не только - а, например, ещё и какую-либо визуальную/схематичную настройку алгоритмов в широком смысле, но всё-таки именно алгоритмов, т.е. по некоторым информативным правилам! Без какой-либо привязке к полноте машины по Тьюрингу, но с намёком на эту модель (т.е. я не про NoCode (даже говоря о визуальном программировании), хотя LoCode - это, всё-таки, тоже программирование)
Классическое программирование на грани вымирания