Deloitte предположительно процитировала исследования, проведенные с помощью ИИ, в докладе на миллион долларов для правительства провинции Канады.
В отчете Deloitte, подготовленном по заказу правительства Канады, который обошелся одной провинции почти в 1,6 миллиона долларов, содержатся потенциально сгенерированные ИИ ошибки, что является второй страной в этом году, в которой были выявлены недостатки в проверке фактов консалтинговой фирмы.
Ошибки, обнаруженные в ходе расследования, опубликованного в субботу «Независимым» (прогрессивным канадским новостным изданием, освещающим самую восточную провинцию страны Ньюфаундленд и Лабрадор), появляются в 526-страничном докладе, который был распространен правительством Канады в мае.
В докладе было рекомендовано Департаменту здравоохранения и общественных услуг, возглавляемому тогда Либералами, обсудить такие темы, как виртуальный уход, стимулы к удержанию и влияние пандемии COVID-19 на работников здравоохранения в то время, когда сектор здравоохранения провинции сталкивается с нехваткой медсестер и врачей.
В докладе Deloitte содержались ложные цитаты, взятые из выдуманных академических работ, чтобы сделать выводы для анализа экономической эффективности, и приводились реальные исследователи по статьям, над которыми они не работали, — говорится в докладе. — В него вошли вымышленные статьи, написанные в соавторстве с исследователями, которые заявили, что никогда не работали вместе.
«Deloitte Canada твердо стоит за рекомендациями, выдвинутыми в нашем докладе, — сказал представитель Deloitte Canada в заявлении. — Мы пересматриваем отчет, чтобы внести небольшое количество исправлений цитирования, которые не влияют на результаты отчета. ИИ не использовался для написания отчета; он выборочно использовался для поддержки небольшого количества цитат исследований».
В длинном отчете также приводится академическая статья из Канадского журнала респираторной терапии, которая еще не найдена при поиске в базе данных.
«Звучит так, будто если вы придумываете такие вещи, они могут довольно активно использовать ИИ для создания работы», — сказала Гейл Томблин Мерфи, адъюнкт-профессор в Школе сестринского дела в Университете Далхаузи в Новой Шотландии. — Томблин Мерфи цитируется Делойт в академической статье, которая «не существует». Она добавила, что она работала только с тремя из шести других авторов, названных в ложном цитировании.
«И я определенно думаю, что с этим есть много проблем. Мы должны быть очень осторожны, чтобы убедиться, что доказательства, которые информируют отчеты, являются лучшими доказательствами, что это подтвержденные доказательства. И что, в конце концов, эти отчеты — не только потому, что они стоят правительствам и они стоят общественности — точны и информированы о доказательствах и полезны для продвижения вперед».
По состоянию на понедельник отчет остается на сайте правительства Канады.
Канадское правительство потратило чуть менее 1,6 миллиона долларов на отчет, заплатив восемь взносов, согласно запросу на доступ к информации, опубликованному в блоге в прошлую среду.
Тони Уэйкхэм, лидер Прогрессивно-консервативной партии в провинции и новый премьер-министр провинции, был приведен к присяге в конце октября. Офис премьер-министра Ньюфаундленда и Лабрадора и Департамент здравоохранения и общественных услуг провинции не сразу ответили на просьбу «Фортуна» прокомментировать майский доклад и публично не рассмотрели этот вопрос.
Откровение появилось вслед за новостями в прошлом месяце о том, что Deloitte использовала ИИ в отчете за 290 000 долларов, опубликованном в июле, чтобы помочь правительству Австралии бороться с благосостоянием. Но исследователь отметил галлюцинации в 237-страничном исследовании, которое включало ссылки на несуществующие научные исследования и сфабрикованную цитату из решения федерального суда.
Больше в мире
В пересмотренном исследовании, которое было тихо загружено на веб-сайт правительства Австралии, консалтинговая фирма признала, что использовала генеративную систему языка AI Azure OpenAI для создания отчета.
«Обновления никоим образом не влияют на содержание, выводы и рекомендации в отчете», — написала Deloitte в разделе обновленного исследования.
Компания-член Deloitte в Австралии должна была выплатить правительству частичный возврат средств за отчет. Пока не было обнародовано никакой информации о возможном возврате средств за отчет Канады.
Эта история первоначально была показана на Fortune.com.
