Выражение 0⁰ (ноль в нулевой степени) многие учебники и энциклопедии считают неопределённым и лишённым смысла. Связано это с тем, что функция двух переменных в точке имеет неустранимый разрыв. В самом деле, вдоль положительного направления оси где она равна единице, а вдоль положительного направления оси где она равна нулю. Поэтому никакое соглашение о значении 0⁰ не может дать непрерывную в нуле функцию.

Соглашение 00 = 1: аргументация сторонников Некоторые авторы предлагают принять соглашение о том, что равно 1. В пользу подобного варианта приводятся несколько доводов. Например, разложение в ряд экспоненты:

можно записать короче, если принять :

(рассматриваемое соглашение используется при ).

Если 0 относить к натуральным числам, то возведение в натуральную степень можно определить так: , и тогда возведение любого числа (в том числе нуля) в нулевую степень будет давать 1.

Другое обоснование соглашения опирается на «Теорию множеств» БурбакиN. Bourbaki. Theory of Sets // Elements of Mathematics, Springer-Verlag, 2004, III, § 3.5.: число различных отображений n-элементного множества в m-элементное равно при получаем отображение пустого множества в пустое, а оно единственно. Разумеется, это нельзя считать доказательством (соглашения не нуждаются в доказательствах), тем более что в самой теории множеств соглашение не используется.

В любом случае соглашение чисто символическое, и оно не может использоваться ни в алгебраических, ни в аналитических преобразованиях из-за разрывности функции в этой точке, в противном случае может возникнуть ошибка. Пример для аналитических вычислений: функция где — произвольное вещественное число больше 1. При мы получаем неопределённость типа и, если не отличать тип предела (где каждый из нулей обозначает стремление к нулю) и значение (где каждый из нулей и есть ноль), можно ошибочно посчитать, что предел равен 1. На самом деле данное выражение тождественно равно Это означает, что бесконечно малая в бесконечно малой степени может в пределе дать любое значение, не обязательно единицу. Аналогичные ошибки могут быть сделаны, если использовать соглашение в алгебраических преобразованиях.

История различных точек зрения Дискуссия по поводу определения продолжается, по крайней мере, с начала XIX века. Многие математики тогда принимали соглашение , но в 1821 году КошиAugustin-Louis Cauchy. Cours d’Analyse de l'École Royale Polytechnique (1821). In his Oeuvres Complètes, series 2, volume 3. причислил к неопределённостям, таким, как В 1830-х годах Guillaume Libri. Note sur les valeurs de la fonction 00x, Journal für die reine und angewandte Mathematik 6 (1830), 67-72.Guillaume Libri. Mémoire sur les fonctions discontinues, Journal für die reine und angewandte Mathematik 10 (1833), 303—316. опубликовал неубедительный аргумент в пользу (см. ), и Мёбиус встал на его сторону, ошибочно заявив, что всякий раз, когда . Обозреватель, который подписал своё имя просто как «S», предоставил приведённый выше контрпример , и это немного успокоило дебаты. Больше исторических деталей можно найти в статье Кнута (1992).

Более поздние авторы интерпретируют ситуацию выше по-разному. Часть математиков считает, что должно быть определено как 1. Например, Кнут (1992) уверенно утверждает, что «должно быть 1», делая различие между значением , которое должно равняться 1, как это было предложено Либри, и предельной формой (аббревиатура для предела где ), что обязательно является неопределённостью, как указано Коши: «И Коши, и Либри были правы, но Либри и его защитники не понимали, почему истина на их стороне»Donald E. Knuth, Two notes on notation, Amer. Math. Monthly 99 no. 5 (May 1992), 403—422 (arXiv: math/9205211 [math.HO]).. Авторитетный сайт MathWorld, приведя мнение Кнута, всё же констатирует, что обычно значение считается неопределённым, несмотря на то, что соглашение позволяет в некоторых случаях упростить запись формул.

Другие математики утверждают, что наилучшее значение для зависит от контекста, и поэтому определение его раз и навсегда проблематичноНапример: Edwards and Penny (1994). Calculus, 4th ed, Prentice-Hall, p. 466; Keedy, Bittinger, and Smith (1982). Algebra Two. Addison-Wesley, p. 32.. Согласно Бенсону (1999), «Выбор, следует ли определять основан на удобстве, а не на правильности. Если мы воздержимся от определения , то некоторые утверждения становятся излишне неудобными. <…> Консенсус заключается в использовании определения , хотя есть учебники, которые воздерживаются от определения »Donald C. Benson, The Moment of Proof : Mathematical Epiphanies. New York Oxford University Press (UK), 1999. ..

В России Большая российская энциклопедия, Большая советская энциклопедия, Математический энциклопедический словарь, Справочник по элементарной математике Выгодского, школьные учебники и другие источники однозначно характеризуют как выражение, не имеющее смысла (неопределённость).

Раскрытие неопределённости 00 Если даны две функции и , которые стремятся к нулю, то предел в общем случае, как показано выше, может быть любым. Таким образом, с этой точки зрения является неопределённостью. Для нахождения предела в этом случае пользуются методами раскрытия неопределённости — как правило, сначала взяв логарифм от данного выражения: , а потом воспользовавшись правилом Лопиталя.

Однако при определённых условиях этот предел будет действительно равен единице. А именно: если функции и являются аналитическими в точке (то есть в некоторой окрестности точки совпадают со своим рядом Тейлора), и , а в окрестности , то предел при стремящемся к нулю справа равен 1.

Например, таким образом можно сразу убедиться, что

При этом надо не забывать, что если хотя бы одна из функций не разлагается в ряд Тейлора в точке 0 или тождественно равен 0, то предел может быть любым, или может не существовать. Например,

Комплексный случай Для комплексных чисел выражение вида для многозначно и определяется как , Однако комплексный логарифм не определён ни в какой своей ветви, и это лишает смысла любое соглашение не только для но и для любого хотя часть авторов предлагает при принять соглашение «Since log(0) does not exist, 0z is undefined. For , we define it arbitrarily as 0». (George F. Carrier, Max Krook and Carl E. Pearson, Functions of a Complex Variable: Theory and Technique, 2005, p. 15).«For , , we define , while 00 is not defined». Mario Gonzalez, Classical Complex Analysis, Chapman & Hall, 1991, p. 56.«Let’s start at . Here xx is undefined». Mark D. Meyerson, The xx Spindle, Mathematics Magazine 69, no. 3 (June 1996), 198—206..

В компьютерах Стандарт IEEE 754-2008, описывающий формат представления чисел с плавающей запятой, определяет три функции возведения в степень: Функция для возведения в целую степень: . Согласно стандарту, для любого , в том числе, когда равен нулю, NaN или бесконечности. Функция для возведения в произвольную степень:  — по сути равная . Согласно стандарту, возвращает значение «не число» NaN. Функция для возведения в произвольную степень, которая особо определена для целых чисел: . Согласно стандарту, для всех (так же, как и ). Данное соглашение в целом имеет разумное обоснование (см. ниже), однако вопрос может вызывать случай, когда x=NaN.

Во многих языках программирования ноль в нулевой степени равен 1. Например, в C++: pow(0, 0) == 1, в языке Haskell это верно для всех трёх стандартных операций возведения в степень: 0^0 == 1, 0^^0 == 1, 0**0 == 1. То же касается и стандартного калькулятора MS Windows.

Хотя общеизвестно, что — это неопределённость, поведение некоторых функций, возвращающих в данном случае , не является результатом соглашения или ошибкой, оно имеет логическое обоснование. Дело в том, что в компьютерной арифметике числовые данные подразделяются на целые и вещественные. Это может неявно использоваться в некоторых функциях, реализующих операцию возведения в степень. Например, так сделано в калькуляторе Windows и функции pow в C++. Для целого и вещественного показателя степени используются различные алгоритмы, и функция возведения в степень анализирует показатель: если он равен целому числу, то вычисление степени идёт по другому алгоритму, в котором отрицательные и нулевое основания степени являются допустимыми. Если показатель степени принадлежит множеству целых чисел и равен 0, а основание - вещественное число, то операцию следует определять не иначе как . Поскольку 0 в показателе точный, предельный переход касается только основания и (в отличие от случая, когда показатель тоже вещественный) определён однозначно и равен . Сказанное в полной мере относится и к случаю вычисления выражения .

Литература

Примечания

Категория:Элементарная алгебра Категория:Ноль Категория:Компьютерная арифметика