Власти Японии начнут применять ChatGPT для административных задач

[Popadanec]

Интересно, кто будет отвечать, если ChatGPT начнёт сам додумывать ответы.

[Neuromantix]

Как кто? Никто, разумеется. "У нас вот в компьютере написано, значит так и есть"

[Tasta_Blud]

и ведь не придерешься - искусственный интеллект зачастую умнее естественного. увы

[Popadanec]

Но это не значит что программа не может ошибаться. Писали её всё же люди, а не сверх раса.
На Хабре был разбор ситуации, когда компьютер многие годы(20 лет) ошибался, а ему продолжали верить. Сорок человек по ошибке посадили. Правда там обошлись без искусственного идиота.

[Tasta_Blud]

Но это не значит что программа не может ошибаться.

я и не утверждала обратного. естественно, что ошибаются все - и люди, и компьютеры, и даже боги (достаточно мельком заглянуть в Библию или альтернативные тексты)

следовательно, всегда нужен корректирующий механизм. и его отсутствие говорит о

• он всё же есть, но наличие скрывается

• иногда его действительно по дурости на первых этапах нет

• возможно сама первичная система либо не то, за что выдаётся, либо даже банально нет (нужное решение принимают нужные люди, а имитируют "смотрите, сверхумный ии просчитал точно так")

[Popadanec]

У меня даже валяется где то такой. На простых операциях всё в порядке, а как чуть сложнее, начинается ерунда. Никогда не думал что можно сломать(брак с завода) такую простую вещь.

[Tasta_Blud]

ну как кто - традиционно, сами объекты применения (извините)