Предложения в которых упоминается "плавающая точка"
В месте, указанном плавающей точкой, ничего видно не было.
Тип данных, представляемых в виде чисел с фиксированной или плавающей точкой.
Единица измерения вычислительной производительности компьютера, равная миллиарду арифметических операций с плавающей точкой в секунду.
Для чисел с плавающей точкой используются типы Single (Одинарной точности), Double (Двойной точности), Currency (Денежный) и Decimal (Десятичный).
Два с половиной триллиона операций с плавающей точкой в секунду!
В то же время он спокойно может работать с разрядностью, например, 80 или 128 бит, когда дело касается операций с плавающей точкой.
Это просто обозначает, что он может выполнять, к примеру, 64-битные команды, а в то же время работать с разрядностью 80 или 128 Бит при операциях с плавающей точкой.
Для ускорения работы компьютера уже в эру процессора 8086 выпускались математические сопроцессоры, которые умели быстро выполнять операции с дробными числами, плавающей точкой, вычислять тригонометрические, экспоненциальные и логарифмические функции.
В тиши лабораторий NVIDIA уже готовится новый претендент на звание самого производительного графического процессора современности (проект Kepler, 28-нм технология, практический потолок в 6 ГФЛОПС в операциях двойной точности с плавающей точкой; ожидаемое появление на рынке — I квартал 2012 г.).
Количество битов мантиссы определяет точность представления чисел, количество битов машинного порядка определяет диапазон представления чисел с плавающей точкой.
Набор инструкций AVX (Advanced Vector Extensions) предназначается для оптимизации потоковых вычислений с плавающей точкой, его применение позволяет повысить эффективность расчётов в большинстве современных сценариев применения процессора.
Число с плавающей точкой в диапазоне от -3, 40282346638 до -1, 175494351 -38 и от 1, 175494351-38 до 3, 40282346638 (а также значение 0) с точностью около 7 значащих цифр (точность зависит от возможностей вашего компьютера).
Число с плавающей точкой в диапазоне от -1, 7976931348623157308 до -2, 2250738585072014 -308 и от 2, 2250738585072014-308 до 1, 797693134862315738 (а также значение 0) с точностью около 15 значащих цифр (точность зависит от возможностей вашего компьютера).
Количество битов мантиссы определяет точность представления чисел, количество битов машинного порядка определяет диапазон представления чисел с плавающей точкой.
Константа с плавающей точкой — десятичное число, которое представлено в виде действительной величины с десятичной точкой или экспонентой.
Число с плавающей точкой включает себя целую и дробную части и (или) экспоненты.
Константы с плавающей точкой — это положительные величины удвоенной точности, тип которых double.
Обратное преобразование из целого в число с плавающей точкой тоже выполняется, но это происходит автоматически.
Внутри они представляются в виде чисел с плавающей точкой двойной точности, но тестирование позволяет выявить некоторые любопытные вещи.
Если вы не разбираетесь досконально в арифметике с плавающей точкой, то можете столкнуться с весьма поучительными сюрпризами.
Другие языки высокого уровня, например Visual Basic, тоже иногда производят преобразования в числа с плавающей точкой.
Но не забывайте, что вы имеете дело не с целыми числами, а с числами с плавающей точкой, — а это «две большие разницы».
Perl — замечательный язык, но математика чисел с плавающей точкой может преподнести неожиданности.
Кодирование чисел с плавающей точкой.
Операции над числами с плавающей точкой.
Константа с плавающей точкой — десятичное число, которое представлено в виде действительной величины с десятичной точкой или экспонентой.
Число с плавающей точкой включает себя целую и дробную части и (или) экспоненты.
Константы с плавающей точкой — это положительные величины удвоенной точности, тип которых double.
Внутренняя обработка и хранение данных могут быть сделаны в 32-разрядном формате с плавающей точкой.
Модуль SYSTEM реализует поддерживающие подпрограммы нижнего уровня для всех встроенных средств, таких как ввод-вывод, работа со строками, операции с плавающей точкой и динамическое распределение памяти.
Мы ведь не можем их зафиксировать даже на высокочувствительный магнитофон, как и не можем зафиксировать на сверхмощную камеру круги, плавающие точки, звёздочки перед глазами.
Получить результат деления с дробной частью можно двумя способами: объявить один или оба операнда как число с плавающей точкой или использовать явное приведение.
На одном кристалле, кроме процессора, находятся также сопроцессор (обеспечивающий работу с числами с плавающей точкой), схемы работы с группами операндов, кэш-память (объёмом до нескольких мегабайт) и другие узлы.
Переполнение и потеря значимости при арифметических вычислениях как с целыми, так и особенно с числами с плавающей точкой были проблемой с момента возникновения компьютерного программирования.
Предположим, что перебор каждого варианта выполняется пусть даже в миллиард раз быстрее, чем одна простейшая операция с плавающей точкой.
Ещё было упражнение — «плавающая точка».
— Если там будут множественные вычисления с плавающей точкой, то кластер одним способом надо настраивать, а если просто высокоскоростной перебор простых операций, то по-другому.