Теорія операторів — розділ функціонального аналізу, який вивчає властивості неперервних лінійних відображень між нормованими просторами. Взагалі кажучи, оператор — це аналог звичайної функції або матриці в скінченновимірному просторі. Але оператор може діяти і в нескінченновимірних просторах.

Відображення з векторного простору у векторний простір називається лінійним оператором, якщо для будь-яких і із і будь-яких скалярів і . Часто пишуть замість . Лінійний оператор з нормованого простору в нормований простір називається обмеженим, якщо знайдеться додатне дійсне число таке, що для всіх . Найменша така константа , яка задовольняє цій умові, називається нормою оператора і позначається . Неважко бачити, що лінійний оператор між нормованими просторами обмежений тоді і тільки тоді, коли він неперервний. Під терміном «оператор» у функціональному аналізі зазвичай розуміють обмежений лінійний оператор.

Множина всіх (обмежених лінійних) операторів із нормованого простору в нормований простір позначається . У випадку, коли пишуть замість . Якщо Гільбертів простір, то зазвичай пишуть замість . На можна ввести структуту векторного простору через і , де , а — довільний скаляр. З введеною вище операторною нормою, перетворюється на нормований простір.

Зокрема, і для будь-яких і довільного скаляра . Простір є Банаховим тоді і тільки тоді, коли — Банахів.

Нехай , і — нормовані простори, і . Композиція і позначається і називається «добутком» операторів та . Відмітимо, що і . Якщо Банахів простір, то з введеним вище множенням є Банаховою алгеброю.

У «теорії операторів» можна виділити декілька основних розділів:

  1. Спектральна теорія вивчає спектр оператора.
  2. Класи операторів. Зокрема, компактні оператори, Фредгольмові оператори, ізоморфізми, ізометрії, строго сингулярні оператори тощо. Вивчають також необмежені оператори і частково визначені оператори, зокрема замкнуті оператори.
  3. Оператори на спеціальних нормованих просторах.
    • На Гільбертових просторах вивчають самоспряжені, нормальні, унітарні, додатні оператори та ін.
    • На функціональних просторах: диференціальні, псевдодиференціальні, інтегральні, і псевдоінтегральні оператори; оператори множення, підстановки, підстановки з вагою та ін.
    • На Банахових решітках: додатні оператори, регулярні оператори тощо.
  4. Сукупності операторів (тобто, підмножини ): операторна алгебра, операторні напівгрупи та ін.
  5. Теорія інваріантних підпросторів.