Теория хаоса — математический аппарат, описывающий поведение неких нелинейных динамических систем, подверженных при определённых критериях явлению, известному как хаос. Поведение таковой системы кажется случайным, даже если модель, описывающая систему, является детерминированной.

Примерами схожих систем являются атмосфера, турбулентные потоки, био популяции, общество как система коммуникаций и его подсистемы: экономические, политические и другие социальные системы. Их исследование, вместе с аналитическим исследованием имеющихся рекуррентных соотношений, обычно сопровождается математическим моделированием.

Теория хаоса — область исследовательских работ, связывающая арифметику, физику и философию. Теория хаоса говорит, что сложные системы очень зависимы от начальных критерий и маленькие конфигурации в окружающей среде ведут к непредсказуемым последствиям.

Математические системы с хаотическим поведением являются детерминированными, другими словами подчиняются некому серьезному закону и, в каком-то смысле, являются упорядоченными. Такое внедрение слова «хаос» отличается от его обыденного значения. Существует также такая область физики, как теория квантового хаоса, изучающая не детерминированные системы, подчиняющиеся законам квантовой механики.