Comments 9
Военная. Вояки боялись давать право автономным роботам самим определять где враг, а где свои, и стрелять. GPT-4, думаю, справится с этим не хуже человека, а значит можно ожидать полностью автономные танки, самолёты, дроны и т.п.
Для меня лично было бы откровением, если бы нейронка научилась шутить.
А почему? Гипотеза: потому, что статья написана не на основе собственно нейронок, а на основе обсуждений нейронок. Сам термин «нейронка» стоит в одном ряду с исторически известными терминами «камень» или «скинь на мыло», это инструменты человека стремящегося избежать понимания того что он понимает что не понимает. Новизна уходит вместе со страхом, понимание приходит вместе с привычкой - специальные термины выходят из обращения.
Что собственно делается «обучением»? Строится аппроксимация. Нейронка не рисует котика, она выдаёт изображение которое, согласно аппроксимации которой её научили, будет воспринято как котик. Ничего не мешает выдавать текст который будет восприниматься как шутка.
Can an AI draw hands?
У него (были?) проблемы с руками потому, что аппроксимация вообще не знала что рисует руки. Как объяснить - известно хотя бы по переводчику Гугол. Но интереснее дообучить так, чтобы объяснять было не нужно.
Arbeit macht frei
От AI пока видно только три пользы - автоматическое распознование образов (Юлька в бар явилась а ей шестнадцать всего), аппроксимация как таковая (этот пептид перспективный а тот отнюдь) и жёсткое внедрение в массы принципа DRY (творцы уровня подмастерья трепещут и курсы входа в IT гребут последнее как не в себя).
От AI уже видно всего два вреда - помогая разобраться с созданным бардаком (привет второму пилоту) AI содействует созданию ещё большего бардака с которым без AI вообще не управиться и обучение делать хорошо весело и приятно, особенно конкретному человеку, приведёт к тому, что изучают наркологи, снимают в фильмах типа Матрицы, описывают в романах типа Город.
Ничего не мешает выдавать текст который будет восприниматься как шутка.
Речь не о пересказе анекдотов и добавлении смайлика в конце предложения, а именно об индивидуальном диалоге, когда собеседник понимает, что в данный момент покажется смешным в контексте как самого диалога, так и с оглядкой на возраст, культуру и даже настроение. То что покажется остроумным и смешным одному, другому может показаться оскорблением.
никакую технологию нельзя пускать на самотек. А лучше всего контролировать её монопольно.
Да вы, батенька, тоталитарист.
Мне интересно, автор специально написал в заголовке об или нет?)
А готовый продукт, например ChatGPT, это не более чем результат толкового анализа и кропотливой разметки гигантского количества исходных текстов, которые, к слову, стали доступны как раз только в наши дни.
Например, GPT в ChatGPT обозначает "Generative pre-trained transformer" - подход в котором не требуются размеченные данные, это и позволяет запихнуть туда гигантские объемы информации без "кропотливой разметки".
не требуются размеченные данные
Generative pre-trained в данном случае означает подход смешанного обучения - размеченный начальный датасет предобучает сеть, затем ей скармливаются не размеченные данные на которых идет основное обучение, в ходе которого идет коррекция опять против размеченных данных. То есть без разметки никуда, во-вторых - ручной труд предполагается и при отборе массивов не размеченных датасетов.
О чатботах