ChatGPT больше не будет давать медицинские или юридические консультации
OpenAI ужесточает правила ChatGPT, чтобы обуздать рискованное руководство
ChatGPT получает проверку реальности. Когда-то известный тем, что отвечает на все, от юридических лазеек до страхов здоровья, чат-бот ИИ теперь молчит на чувствительные темы. OpenAI ввел новые ограничения, направленные на обуздание рискованных советов. Но это о защите пользователей или о защите самого OpenAI?
Почему чат-гидрокси не будет диагностировать, консультировать или советовать вам больше
По состоянию на 29 октября роль ChatGPT претерпела серьезную трансформацию: он больше не будет предлагать специализированные медицинские, юридические или финансовые консультации. По данным NEXTA, чат-бот теперь классифицируется как «образовательный инструмент», а не «консультант». Сдвиг, как объясняет издание, происходит потому, что «регламенты и опасения ответственности сжали его — Big Tech не хочет судебных исков на своей тарелке».
Вместо того, чтобы давать личные рекомендации, ChatGPT теперь «только объяснит принципы, наметит общие механизмы и скажет вам поговорить с врачом, юристом или финансовым профессионалом». Новые руководящие принципы, как подробно описано NEXTA, проведут четкую линию на песке: «больше не называя лекарства или давая дозы … никаких шаблонов судебных процессов … никаких инвестиционных советов или предложений по покупке / продаже». Эта политика капитального ремонта непосредственно решает растущие опасения по поводу рисков полагаться на ИИ для конфиденциальных или специализированных рекомендаций.
Риски полагаться на ИИ для медицинских, юридических и финансовых консультаций
В прошлом многие пользователи обращались с ChatGPT как с виртуальным врачом, набирая симптомы, чтобы «увидеть, что он говорит». Результаты могут быть как увлекательными, так и пугающими — безобидная головная боль может быть помечена как что-либо от отмены кофеина до потенциальной опухоли головного мозга. Кто-то может набрать «Я кашлял в течение нескольких недель» и получить ответ, намекающий на пневмонию или рак легких, только чтобы позже узнать от своего врача, что это просто сезонная аллергия. Эти новые ограничения предназначены для предотвращения такой ненужной паники, подчеркивая, что ИИ не может проводить лабораторные тесты, проводить экзамены или брать на себя юридическую ответственность лицензированного профессионала.
Сдвиг не ограничивается советами по здоровью. Многие также обратились к ChatGPT за эмоциональной поддержкой, рассматривая его как ночного терапевта. В то время как чат-бот может предлагать советы по внимательности или предлагать дыхательные упражнения, ему не хватает человеческого понимания и эмоциональной интуиции. Он не может распознавать дистресс в вашем тоне или предлагать эмпатию, когда вам это больше всего нужно. Настоящие терапевты работают в соответствии со строгими этическими и юридическими рекомендациями для защиты пациентов — что-то, что ни один алгоритм не может повторить. Если вы или кто-то, кого вы знаете, борется, позвоните 988 в США или обратитесь к своей местной кризисной горячей линии за немедленной помощью.
Та же логика теперь применима и к финансовым и юридическим темам. ChatGPT может по-прежнему объяснять, что такое 401 (k) или определять юридический жаргон, но он не может оценить ваш кредитный рейтинг, оценить вашу налоговую крону или обеспечить юридическую силу вашей воли. Опираясь на ИИ для таких вопросов, это все равно, что просить поисковую систему обработать ваше судебное дело — риск просто не стоит этого.
Растет также проблема конфиденциальности. Обмен личными данными, такими как ваша зарплата, номера банковских счетов или даже ваша история болезни с чат-ботом, не так безобиден, как кажется. Эта информация может стать частью его данных обучения. Даже то, что кажется рутиной — например, просьба ChatGPT написать завещание или составить договор аренды — может привести к юридическим проблемам, если ключевые положения отсутствуют или законы различаются по штату. Суть: когда дело доходит до вашего здоровья, эмоций или финансов, реальный опыт все еще нуждается в человеческом прикосновении.
Кто выигрывает от более строгих правил ChatGPT?
Новые ограждения ChatGPT выгодны нескольким группам. Во-первых, пользователи получают дополнительную безопасность, снижая риск получения вводящих в заблуждение медицинских, юридических или финансовых консультаций, которые могут иметь серьезные последствия. Во-вторых, сама OpenAI выигрывает, сводя к минимуму юридическую ответственность и контроль со стороны регулирующих органов, защищая компанию от потенциальных судебных исков. Наконец, специалисты в области медицины, права и финансов косвенно поддерживаются, поскольку ИИ больше не может посягать на роли, которые требуют экспертизы, суждения и этической ответственности.
Источник: International Business Times
Читайте оригинальную статью о ГИКСПИН.
Партнерские ссылки на GEEKSPIN могут принести нам и нашим партнерам комиссию.
