Цитата:
Сообщение от probe
всё это смотрится не очень приглядно.
|
В ситуации, когда не нужно умничать, а достаточно знать, у ИИ пропадает конкурентное преимущество перед обычным поисковиком, и он это преимущество “высасывает из пальца”.
Мне видится причиной такого «поведения» коммерческая мотивация разработчиков технологии, задача которых переманить пользователей у поисковиков, и сделать их клиентами ИИ. А дальше работает статистика - 80% пользователей примут фантазии ИИ за чистую монету, поскольку, либо доверяют «интеллекту» больше чем «интернету, и проверять эту графоманию не станут, либо вообще не способны отличить истину от лжи по собственным когнитивным ограничениям. А значит положительная оценка 80% потребителей, мол какой же он умный, этот ИИ, всё то он знает, и нет таких вопросов, где он не найдёт содержательного ответа, перевесит 20% обиженных пользователей, и чаша весов, читай абонентская плата за пользование ресурсами, склонится в пользу врущего ИИ.
Хотя, возможно, галлюцинации, подчас зловредные – болезнь роста машинного мышления, связанная с необходимостью наделить его спонтанностью, неким суррогатом свободы. Поскольку наука пока не до конца понимает природу спонтанности, смоделировать её без косяков не получается, так что будем считать эти косяки необходимым условие развития, которое в конечном счете их скорректирует. Во всяком случае, такой вариант объяснения фантазерства ИИ мне импонирует больше, чем жадность индустрии.
Проблема с враньём, судя по всему, решается непросто, в отличие от уже пройденного этапа очеловечивания коммуникации с ИИ, когда тысячи экспертов обучали его быть вежливым. Там достаточно было накопить ситуаций вежливой коммуникации, и всё заработало, а вот с враньём видать всё глубже, его невозможно ограничить неполной индукцией реакций экспертов, там фактический материал конкретен, безграничен и не имеет общих признаков «истинности», которые можно было бы использовать в качестве критерия отсечки неадекватной информации.
Хотя, категоричности поубавить можно, как прибавили вежливости, но станет ли враньё от этого приемлемее? Не думаю.
