Микроконтролери и електроника
http://mcu-bg.com/mcu_site/

log10() проблемация
http://mcu-bg.com/mcu_site/viewtopic.php?f=3&t=17839
Страница 1 от 1

Автор:  MYXATA [ Сря Мар 31, 2021 2:57 pm ]
Заглавие:  log10() проблемация

Здравейте - нещо се омотах
на микроконтролер кортексм4 log10() ми дава някакви странни данни.
не ползвам хардуерен флоат.
например log10(1.8948250236716700557254396721668e-4) трабва да е -3.722....
а контролера връща -6.6290377E+8 което е странно.
някой да има предложения

Автор:  stefan63 [ Сря Мар 31, 2021 3:23 pm ]
Заглавие:  Re: log10() проблемация

log10(1.894e-4)
колко ти дава?

Автор:  MYXATA [ Сря Мар 31, 2021 3:39 pm ]
Заглавие:  Re: log10() проблемация

същото.
не е препълване.
проблема го намерих беше в променлива с име "pow", което се оказа, че е също така и мат функциа pow(х,у), което явно побърка всички сметки по-надолу. страноото е че нямаше ворнинг нито грешка.

Автор:  HCL [ Сря Мар 31, 2021 4:12 pm ]
Заглавие:  Re: log10() проблемация

От чисто любопитство... колко такта отнема да се сметне това на СМ4?

Автор:  ToHu [ Сря Мар 31, 2021 5:27 pm ]
Заглавие:  Re: log10() проблемация

MYXATA написа:
проблема го намерих беше в променлива с име "pow", което се оказа, че е също така и мат функциа pow(х,у)...


Тия дни имах подобен проблем с Qt, сковавам тук едно тестово тулче и същото нещо, и нали не съм писател до де се усетя какво става утрепах 30-на минути, и пак без warning.

Страница 1 от 1 Часовете са според зоната UTC + 2 часа [ DST ]
Powered by phpBB © 2000, 2002, 2005, 2007 phpBB Group
http://www.phpbb.com/