Исследуем сначала поведение и на границах отрезка :

при (просто положить равным нулю нельзя , потому что будет неопределенность ):

для случая падения из воздуха в стекло () :

т.е. это величина порядка нескольких процентов (можно заметить , что если поменять среды местами - т.е. рассматривать падение из воды в воздух , то это значение не изменится)

В случае падения из оптически менее плотной среды в оптически более плотную при:

Действительно, преломленной волны при скользящем падении не образуется и интенсивность падающей волны не меняется.

В случае падения из оптически более плотной среды в оптически менее плотную , необходимо учесть явление полного внутреннего отражения , когда прошедшей волны нет - вся волна отражается от поверхности раздела. Это происходит при значениях больших , чем , вычисляемого следующим образом:

[1][к1]

Для падения из стекла в воздух

Здесь не рассматривается полное внутреннее отражение , поэтому в случае падения из оптически более плотной среды в оптически менее плотную изменяется до , в этом случае:

Далее исследуем поведение этих функций между крайними точками , для этого исследуем на монотонность функции: и

Нам понадобится производная , найдем ее как производную функции , заданной неявно :

Знак этой производной ( поскольку , ) зависит только от знака выражения , это выражение > 0 , когда (то есть падение из оптически мене плотной среды в оптически более плотную ) и <0 , когда (из более оптически плотной в менее оптически плотную ) , следовательно в первом случае монотонно возрастает, а во втором , убывает . Но в случае , следовательно по модулю это выражение будет возрастать , в случае оно также будет по модулю возрастать . Таким образом , , как квадрат этого выражения , в обоих случаях монотонно возрастает от при до 1 при .или.

Знак этой производной ,( поскольку ,

есть >0 при и <0 при .

Знак функции меняется следующим образом :

при если невелико>0 , но эта функция проходит через нуль. Поскольку числитель , при рассматриваемых пределах изменения в 0 обращаться не может[2][к2] это происходит тогда , когда знаменатель обращается в бесконечность т.е.:

Это есть угол Брюстера () , при котором обращается в 0 , то есть отраженная волна отсутствует . Для случая падения из воздуха в стекло , для обратного случая (из стекла в воздух) При переходе через этот угол меняет знак на минус , следовательно как квадрат этой функции сначала убывает (до нуля) , а затем возрастает (до 1).

При для небольших<0 , при переходе через знак будет меняться на плюс. Переход через действительно будет иметь место , хотя изменяется до ,а не до , поскольку . Таким образом снова монотонно убывает до 0 , а затем монотонно возрастает до 1.