Чёрный ящик с числами: как математика помогает объяснять ИИ — и почему этого пока не хватает
Представьте, что вы попросили коллегу решить сложную задачу, и он принёс правильный ответ. Но на вопрос «как ты это сделал?» лишь пожимает плечами. Вы можете проверить ответ, можете даже доверять этому коллеге по привычке — но не понимаете, что именно произошло внутри. Примерно так же устроена проблема с современными ИИ-системами. Только в этом случае «коллега» состоит из миллиардов параметров, а от его ответов зависят медицинские диагнозы, юридические решения и новостные ленты миллионов людей.