В един скорошен доклад се твърди, че ChatGPT предлага много грешни отговори на въпроси, свързани с програмирането. Изследователски екип от университета Purdue представи доклад по време на конференцията „Взаимодействие между компютри и хора“, който включва проверка на 517 въпроса от Stack Overflow, изпратени за отговор в ChatGPT. Нещо по-лошо, човешките програмисти не са уловили грешните отговори на ChatGPT в 39% от случаите.
Прегледите с изкуствен интелект на Google, въведени в региона на САЩ за Google Search, вече генерират странни и изпълнени с грешки резюмета на отговори на някои низове за търсене. Google отбелязва, че примерите, които са забелязани, са обикновено свързани с много редки заявки и не са представителни за опита на повечето хора. По-голямата част от прегледите на изкуствения интелект предоставят висококачествена информация с линкове за задълбочаване в интернет.