Про успехи ИИ - мысли вслух

Хорошая статья в тему. Точнее очень хорошее описание того слабого места, про которую успешно забывают сегодняшние восторженные поклонники нейросетей

**

Как отмечает "Вашингтон пост", сегодня в США уже миллионы пациентов получили медицинскую помощь при содействии ИИ. Крупнейшая американская компания-производитель медицинского программного обеспечения Epic Systems заявила, что системы генеративного ИИ, которые она продаёт, уже обслужили 2,35 млн пациентов, и ежемесячно оформляют 175 тысяч медицинских записей.

Пока что это "интеллектуальные секретари", которые фиксируют показания пациентов и ведут служебную переписку, но технология не стоит на месте, и уже сегодня медицинские стартапы предлагают расширить этот функционал. Стартап Glass Health предлагает докторам ИИ-помощника, который даёт рекомендации по лечению на основе диагноза, а стартап K Health разработал чат-бот, к которому можно обратиться за советами по поводу здоровья.

Вот хочется со своей колокольни инженера-программиста прокомментировать. Я уже наверное больше года достаточно активно применяю ИИ в своей работе. В основном в виде умного автодополнения кода, но время от времени хожу к GPT4 с вопросами.

Вот что я заметил по опыту общения. Эта штука в самом деле не может сказать «я не знаю» или «я не понимаю». Она всегда отдаст правдоподобный ответ. Единственное, с чем она хорошо справляется, это задача вида «натолкнуть меня своими рассуждениями на решение задачи, которого я не видел сам», но я могу это эффективно использовать только благодаря своему богатому опыту. Если же ответы ИИ просто бездумно использовать, они очень часто не работают или работают не так, как нужно.

И это при том, что тема айти для ИИ чуть ли не родная, так как прежде всего это создавали айтишники и пробовали это на себе же, и обучающего материала было сколько угодно в виде гитхаба и стаковерфлоу и т. д.

Но в случае айти результат можно увидеть либо мгновенно либо за пару-тройку запусков кода. В коде мы очень быстро понимаем, что что-то не работает или работает не так. А вот в случае человека? Вот ты спросил ИИ рекомендацию, он ее дал, ты применил. А результат ждать, допустим, неделю, и результат будет хреновым. И дальше что? Спросить другую рекомендацию? Позвать настоящего специалиста? А здоровье уже может быть загублено непоправимо, или лечение было безрезультатным и болезнь развилась. Ладно в моей работе я могу делать это в духе «спросил, попробовал, не получилось, прислал ИИ ошибку, еще раз попробовал, и повторять до достижения результата». Но с живым человеком ведь так нельзя, это как-то даже будет напоминать нацистские эксперименты.

Короче, имея опыт работы с ИИ, я бы вместо такого врача лучше пошел бы к бабке-травнице, или сам начал гуглить, разбираться в теме, если нет денег на врача, который работает по классике без этих костылей. А я думаю элита к своему здоровью и на пушечный выстрел не подпустит этих электронных болванов, это нам будут втюхивать, как продукты с пальмовым маслом и прочие достижения современной рыночной экономики.