Применение AI (искусственного интеллекта) в лечении ВИЧ-инфекции и других заболеваний
-
Пользователь @HelpfulKittenRuler написал в Применение AI (искусственного интеллекта) в лечении ВИЧ-инфекции и других заболеваний:
ChatGPT может допускать ошибки
Так да. О том и толкуем).
Там то я ошибку сразу всем своим русским нутром чую. А он может рогом упереться и настаивать, выдавая свой глюк за истину. А в медицине у меня даже и близко нет ни чуйки такой, ни компетенций тем более.Это типа спросил у него: Вот тут болит, а тут чешется. Что со мной?
- Это у тебя бахсибулярный бинибит.
- Да? А он лечится?
- Лечится. Уринотерапией, по Малахову. Три примочки в день, после еды.
Ну и всё, живёшь себе, делаешь примочки, ждешь когда пройдет. Попахивать правда стал), ну да ладно, гпт плохого то не посоветует, это ж мегаинтеллект!)
😁
-
Пользователь @Васьвась написал в Применение AI (искусственного интеллекта) в лечении ВИЧ-инфекции и других заболеваний:
Показатель галлюцинаций
Бредовый график. “Уровень галлюцинации” любой модели зависит от параметра ее температуры в конкретном запросе. (См. выше). Чем ниже выставляешь температуру, тем математически точнее ответ. Например если выставить {“temperature”: 0.1}, то модель при рассуждении будет оперировать только с точными фактами и отсекать менее вероятные токены. Хорошо подходит для математики или программирования, например. Но при этом пострадает креативность, “догадливость”. Если выставить {“temperature”: 1.0}, то модель будет генерить безумные идеи и фантазии, которые будут иметь мало общего с фактами, но зато творчества хоть отбавляй.
Grok 4.2 хорош, да, молниеносная скорость API, частичное отсутствие цензуры, хорошее видение в плане картинок. По сути Grok - это “рой” ИИ агентов, которые набрасываются на задачу сообща, а потом выдают консенсус. Прямо топчик для повседневных задач.
Но в фаворе пока что все равно Claude opus 4.7. Только API очень дорогой 25 бачей за миллион токенов. У меня бывает в день до 5 долларов улетает.
-
Пользователь @Just_One написал в Применение AI (искусственного интеллекта) в лечении ВИЧ-инфекции и других заболеваний:
Бредовый график. “Уровень галлюцинации” любой модели зависит от параметра ее температуры в конкретном запросе. (См. выше).
Я в подробности не вникал, но подозреваю, что это цифры 《при прочих равных》
То есть тот же запрос, та же температура одинаковые. -
банят
Ну не совсем так. Был крестовый поход против тех, кто использует Claude, чтобы тренировать свои модели. Типа Антропик вложило миллиарды в Claude, а всякие ушляки, в основном китайцы и наши используют их данные для обучения своих моделей. Соблазн велик - за несколько миллионов долларов можно создать модель на чужих данных, в которые вложены миллиарды. В ход идет все, массовая регистрация аккаунтов, эмуляция поведения “добросовесного пользователя” и т.д. Антропик начал банить все подозрительное, массовые траты токенов и т.д. И под замес в т.ч. попали дурачки, которые хранили чувствительные данные на их мощностях. Если делать все по уму, бан не возможен.
-
Пользователь @Just_One написал в Применение AI (искусственного интеллекта) в лечении ВИЧ-инфекции и других заболеваний:
Был крестовый поход против тех, кто использует Claude, чтобы тренировать свои модели
Я про это:
⚡️ OpenRouter ограничила доступ к API ChatGPT, Claude и Gemini для пользователей из России
В обновлённых правилах сервиса указано, что аккаунтам из РФ запрещено использовать американские нейросети в своих проектах.
Кроме того, пользователи Хабра сообщают о проблемах с пополнением баланса: по их словам, OpenRouter блокирует такую возможность для россиян.
И это:
⚡️ Нейросеть Claude начала массово банить пользователей из России — по данным Baza, доступ к аккаунтам потеряли уже сотни человек.
Утеряно всё: чаты, проекты, код и рабочие наработки, которые многие собирали месяцами. Деньги за подписку пользователям при этом возвращают.
Claude официально недоступен в РФ, поэтому большинство заходили через VPN и «серые» способы регистрации. Эксперты считают, что причиной волн блокировок стали новые проверки аккаунтов с постоянным переподключением VPN и сменой региона.
-
Пользователь @Just_One написал в Применение AI (искусственного интеллекта) в лечении ВИЧ-инфекции и других заболеваний:
Только API очень дорогой
Скоро будет еще дороже кое-что :
🤖 Anthropic фактически убирает безлимитное программирование в Claude — с 15 июня для агентных и автоматизированных задач вводят отдельные monthly credits, которые расходуются по API-ценам — из-за этого расходы могут вырасти в 10–30 раз.
Новые лимиты затронут Claude Agent SDK, GitHub Actions и другие инструменты для автономной разработки, поэтому многие пользователи уже обсуждают переход на альтернативы — фикс-тарифы становятся заметно менее выгодными для кодинга.
Но китайцы вроде всё сп#здили уже бесплатно:
-
Пользователь @Васьвась написал в Применение AI (искусственного интеллекта) в лечении ВИЧ-инфекции и других заболеваний:
Немного офф-топ, но прикольный)
Лишнее напоминание, что в медицинских вопросах может выйти также:
Анекдот: Microsoft затеяла глобальное исследование, чтобы доказать пользу от ИИ при увольнении сотрудников — но всё вышло ровно наоборот. Учёные выяснили, что вообще все модели на планете не готовы к реальным рабочим процессам.
Команда протестировала флагманы, типа GPT, Claude и Gemini, на офисных задачах. В итоге каждая четвёртая операция с документами заканчивалась порчей или потерей данных. Не спасают даже новые агенты — их отдельно тестировали как «следующий уровень», но результаты те же. Хайп вокруг агентов сдулся прямо в лабораторных условиях.
Самое неприятно — это эффект «внезапной катастрофы» у всех ИИ. Модель может работать идеально несколько дней, а потом в один рандомный момент уничтожить огромный кусок данных. Microsoft пыталась скрыть результаты исследования, но на днях файл всплыл в сети сам.
Забавно, что собственный Copilot они в тест даже не включили — видимо, чтобы совсем не расстраиваться .
-
Российскую нейросеть научили распознавать ранние признаки деменции. Точность на тестовой выборке составила 79%, а после дополнительного обучения ожидается ещё более высокий показатель.
Нейросеть EfficientNet обучена на тысячах реальных снимков мозга из открытых медицинских баз данных. Она ищет характерные структурные изменения (например, атрофию отделов мозга, отвечающих за память), на основании чего выносит вердикт о наличии или отсутствии патологии. Ожидается, что разработка станет для врачей инструментом-помощником для первичной диагностики и скрининга.
Что ж, звучит перспективно. Надеюсь, что через несколько лет подобные алгоритмы станут привычной частью диспансеризации, позволяя массово диагностировать деменцию на ранних стадиях.
-
Портал научных препринтов arXiv.org будет банить авторов статей, в которых использовался генеративный искусственный интеллект.
В случае обнаружения нейрослопа всем авторам работы на год запретят публиковаться на сайте arXiv.org. После этого периода для дальнейшего размещения на портале статьи авторов должны пройти рецензию в «уважаемом» журнале. В случае обнаружения признаков использования генеративных моделей модератор должен будет зафиксировать проблему, а председатель секции затем наложить санкции на авторов. Ученые смогут обжаловать решение о запрете
-
«Не напрасно» и Яндекс запустили ИИ-ассистента для людей с онкологическими заболеваниями
Фонд «Не напрасно» вместе с Яндексом представили сервис «Не напрасно Бот», рассчитанный на людей с онкологическим диагнозом, и их близких. Бот должен помочь пользователям быстрее получать понятную и проверенную информацию о раке, его лечении, маршрутизации в системе здравоохранения и положенных льготах. Сервис уже доступен в мессенджере и на сайте энциклопедии «Онко Вики».
В основе бота лежат более 1200 материалов «Онко Вики» и другие научно подтвержденные источники, соответствующие принципам доказательной медицины. Сервис объясняет медицинские темы понятным языком и помогает сориентироваться в вопросах, которые часто выходят за рамки короткого врачебного приема, но напрямую влияют на качество жизни пациента. Особенно полезным такой формат может быть для людей вдалеке от областных центров, где доступ к профильной помощи и второму мнению ограничен.
Что умеет бот
• отвечает на вопросы о диагнозе, лечении и обследованиях
• помогает понять, как выстроить маршрут лечения и где получить второе мнение
• подсказывает, как разобраться с льготами и организационными вопросами
• снижает тревожность и помогает подготовиться к разговору с врачом, но не ставит диагнозы и не назначает лечениеТехнологически проект построен на Yandex AI Studio. За счет мультиагентной архитектуры запросы распределяются между специализированными агентами, которые отвечают за медицинскую корректность, безопасность, эмпатию, проверку источников и работу с кризисными ситуациями. Такой подход нужен для того, чтобы ответы были не только понятными, но и максимально надежными.
Проект реализован при поддержке Yandex Cloud и Yandex AI Studio. Архитектуру помог разработать Центр технологий для общества Яндекса, грант на инфраструктуру предоставил фонд «Помощь рядом», который также рассчитывает масштабировать эту технологию на другие НКО, а техническую адаптацию и интеграцию выполнила команда «Колибри». В мессенджере история диалогов сохраняется, а веб-версия работает без регистрации и авторизации, что заметно снижает порог входа для пользователей.
-
Пользователь @Васьвась написал в Применение AI (искусственного интеллекта) в лечении ВИЧ-инфекции и других заболеваний:
Просить его выдавать ссылки на все его заключения и вручную , глазками и головой анализировать эти ссылки, дизайн статей, ограничения, конфликт интересов - это самый сложный навык, тут уже нужно время и желание его освоить и желательно с наставником, кто понимает.
Иначе он может опереться или на собственную выдумку или на исследование на 3-х мышах или 4-х неграх, статью в газете 《Спорт-экспресс》, то есть на низкокачественные пруфы.
ИИ чаще цитирует сайты аптек, а не научные статьи
▶️Платформа Brandfound проанализировала, как ChatGPT, Gemini, Perplexity, Grok, DeepSeek, GigaChat, «Чат с Алисой AI», «Поиск с Алисой» и Google AI Mode отвечают на медицинские запросы пользователей. В исследовании использовали 2 999 вопросов о здоровье и лекарствах без упоминания брендов, а всего было изучено 26 870 ответов в 63 медицинских категориях.
Что выяснилось:
🔘71% всех источников в ответах нейросетей – коммерческие сайты (аптеки, маркетплейсы, клиники, блоги).
🔘Только 5,8% ссылок ведут на научные и государственные ресурсы (PubMed, Mayo Clinic, MSD, .gov).
🔘Коммерческие источники используются в 12 раз чаще научных.Топ самых цитируемых ресурсов:
🔘Uteka – 3 073 цитаты;
🔘Ozon – 2 902;
🔘Apteka․ru – 2 479;
🔘Megapteka – 2 315;
🔘Столички – 1 773;
🔘Вита Экспресс – 1 743.▶️Авторы исследования отмечают, что нейросети чаще опираются на наиболее распространённый контент в интернете, а не на наиболее доказательные источники. Поэтому статьи в формате «ТОП лучших препаратов» и рейтинги аптек оказываются заметнее для ИИ, чем научные публикации.
▶️Также в ответах нейросетей доминируют не фармпроизводители, а онлайн-аптеки, дистрибьюторы и маркетплейсы.
-
Термин ИИ-психоз уже проник в заголовки медиа: журналисты десятками описывают случаи, когда после долгих бесед с чатботами люди совершали непоправимые шаги, разрушающие их жизнь. Беседы с ИИ могут быть чрезвычайно заряжены эмоциями; так что пользователь может даже не заметить, как перевозбужденное состояние, утомление и стресс меняют восприятие, стирая границу между материальным миром физических объектов и виртуальным миром идей и образов, символов и смыслов, к которым мы прибегаем, когда пытаемся осмыслить происходящее вокруг.
При этом ИИ не является самостоятельным агентом: алгоритм настроен на то, чтобы поддерживать обмен сообщениями с пользователем, настраиваясь и отзеркаливая его состояние и намерения. Во взаимодействии с человеком чатбот не будет возражать, вступать в конфронтацию с пользователем, опровергать его мнение или пытаться вернуть его на грешную землю; наоборот, алгоритм стремится “подольститься” к пользователю, подтверждая предубеждения и заблуждения, даже если эти заблуждения опасны для самого человека и окружающих его людей.
Иногда психоз проявляется как обратная сторона зависимости: романтическое увлечение ИИ-ассистентом заставляет человека поверить, то чатбот тоже испытывает к пользователю большое и искреннее чувство. Бывает, что человек начинает видеть в ИИ-ассистенте разумное божество, или убежден, что с помощью ИИ смог постичь доселе скрытую истину о мире (бред величия).
Исследования феномена ИИ-психоза уже добрались до медицинских изданий The Lancet. Авторы одной из таких работ разбирают несколько громких случаев, попавших в СМИ, выдвигая идею, что ИИ может играть неодинаковую роль у пострадавших.
https://www.thelancet.com/journals/landig/article/PIIS2589-7500(25)00156-6/fulltext
-
Чат-бот никогда не спорит с пользователем — и это его главное достоинство. Но что, если человек делится с ним не рабочими задачами, а тревожными и параноидными мыслями?
Недавно исследователи из Оксфорда описали механизм, который назвали «technological folie à deux» — по аналогии с психиатрическим феноменом «безумия на двоих», когда один человек постепенно перенимает бредовые убеждения другого. То же самое происходит, когда роль внушаемого собеседника играет языковая модель.
В новом выпуске блога об ИИ и когнитивных искажениях когнитивный психолог Ксения Лужнова разбирает, как устроена эта нейросетевая эхо-камера и почему нельзя пресечь технологический folie à deux на этапе разработки
-
СМЕЛО ПРИДУМЫВАЙ. ЖЁСТКО ПРОВЕРЯЙ.
У научной «галлюцинации» есть неожиданно полезное применение.
Обычно галлюцинацией LLM называют ошибку: модель сообщает что-то убедительное, хотя это не следует из имеющихся знаний. Но группа исследователей из Кембриджа задала другой вопрос: а что, если модель выдумывает не факт, а проверяемую гипотезу?
В 2025 году они опубликовали в Journal of the Royal Society Interface работу Scientific hypothesis generation by large language models: laboratory validation in breast cancer treatment. GPT-4 попросили предложить неожиданные комбинации уже существующих препаратов против клеток рака молочной железы MCF7. При этом комбинации должны были меньше действовать на нераковые клетки MCF10A.
Модель предложила 12 пар препаратов. Интересно, что получились комбинации неонкологических лекарств — среди них препараты, применяемые при гиперхолестеринемии, паразитарных инфекциях, воспалении и других состояниях. Авторы не нашли эти комбинации в онкологической литературе, хотя отдельные препараты ранее исследовались на раковых клетках. Полный текст статьи
Дальше произошло самое важное: рассуждения GPT-4 перестали обсуждать и положили препараты в лунки экспериментального планшета.
Проверяли две вещи: насколько комбинация действует избирательно на MCF7 относительно MCF10A и возникает ли синергия — эффект пары, превосходящий действие наиболее эффективного препарата по отдельности.
Из 12 предложенных пар у трёх HSA synergy score оказался выше, чем у использованных положительных контролей.
Среди них были:
итраконазол + атенолол
симвастатин + дисульфирам
дипиридамол + мебендазолПричём у 8 из 12 комбинаций HSA score был выше для MCF7, чем для MCF10A. Все экспериментальные результаты и дозовые матрицы приведены в исходной публикации в Journal of the Royal Society Interface.
Но исследователи на этом не остановились.
Они сообщили GPT-4 результаты первого эксперимента и попросили предложить следующий набор комбинаций уже с учётом полученных данных.
Модель предложила четыре новые пары.
Три из четырёх получили положительные показатели синергии.
Возник маленький замкнутый научный цикл:
гипотеза → эксперимент → данные → новая гипотеза → новый эксперимент.
Именно поэтому эта работа интереснее очередной демонстрации того, что GPT умеет выдавать правдоподобные биологические рассуждения.
Здесь от модели вообще не требовалось быть безошибочной.
Из первых 12 гипотез большинство не дали результата лучше положительного контроля. И это нормально. Если проверка достаточно дешёвая, быстрая и объективная, можно позволить генератору искать гораздо свободнее.
Отсюда и принцип плаката:
Смело придумывай. Жёстко проверяй.
Свобода должна находиться до эксперимента. После неё начинается совсем другой режим: контрольные группы, дозовые матрицы, сравнение с нераковыми клетками и количественная метрика синергии.
Есть даже забавная деталь, показывающая границы такого подхода. После нескольких итераций GPT-4 снова предложил комбинацию quinacrine + celecoxib, которую исследователи уже проверяли в первом раунде. Авторы отмечают этот повтор в описании итеративного эксперимента.
То есть систему не стоит представлять как автономного учёного, который понимает весь ход исследования. Скорее это очень производительный генератор кандидатов, помещённый внутрь строгой экспериментальной машины.
И здесь появляется более общий принцип формирования гипотез.
Для гипотезы с низкой предполагаемой вероятностью успеха дорогой многолетний эксперимент может быть плохой ставкой. Но если множество таких гипотез можно быстро и недорого проверить стандартизированным экспериментом, низкая исходная правдоподобность уже не обязательно является главным недостатком.
Можно позволить себе очень смелые гипотезы там, где реальность умеет быстро и дёшево отвечать «нет».
И, возможно, именно так AI сильнее всего изменит научное творчество: не заставит нас меньше ошибаться при генерации идей, а позволит гораздо быстрее превращать ошибки в экспериментально отброшенные гипотезы.
