github/msft-calculator
1
0
Fork 0
mirror of https://github.com/Microsoft/calculator.git synced 2025-08-22 14:13:30 -07:00
Code Issues Projects Releases Packages Wiki Activity Actions

Fix wrong results after pow and sqrt

Browse source
This commit is contained in:
uhliksk 2019-03-14 04:26:49 +01:00
commit 770f014bfc
2 changed files with 54 additions and 1 deletions
Download patch file Download diff file Expand all files Collapse all files

27
src/CalcManager/Ratpack/exp.cpp
View file

@ -297,7 +297,7 @@ void powrat(PRAT *px, PRAT y, uint32_t radix, int32_t precision)
}
}
void powratNumeratorDenominator(PRAT *px, PRAT y, uint32_t radix, int32_t precision)
void powratNumeratorDenominatorPartial(PRAT *px, PRAT y, uint32_t radix, int32_t precision)
{
// Prepare rationals
PRAT yNumerator = nullptr;
@ -392,6 +392,31 @@ void powratNumeratorDenominator(PRAT *px, PRAT y, uint32_t radix, int32_t precis
destroyrat(pxPow);
}
void powratNumeratorDenominator(PRAT *px, PRAT y, uint32_t radix, int32_t precision)
{
// We need px as simple as possible
gcdrat(px, precision);
// Prepare rationals
PRAT pxNumerator = nullptr;
PRAT pxDenominator = nullptr;
DUPRAT(pxNumerator, rat_zero); // pxNumerator->pq is 1 one
DUPRAT(pxDenominator, rat_zero); // pxDenominator->pq is 1 one
DUPNUM(pxNumerator->pp, (*px)->pp);
DUPNUM(pxDenominator->pp, (*px)->pq);
// Calculate pow for Numerator and Denominator separately
powratNumeratorDenominatorPartial(&pxNumerator, y, radix, precision);
powratNumeratorDenominatorPartial(&pxDenominator, y, radix, precision);
// Combine results back to px
DUPRAT(*px, pxNumerator);
divrat(px, pxDenominator, precision);
destroyrat(pxNumerator);
destroyrat(pxDenominator);
}
//---------------------------------------------------------------------------
//
// FUNCTION: powratcomp

28
src/CalculatorUnitTests/CalculatorManagerTest.cpp
View file

@ -428,6 +428,23 @@ namespace CalculatorManagerTest
Command::CommandSQRT, Command::CommandSUB, Command::Command3, Command::Command2,
Command::CommandADD, Command::CommandNULL };
TestDriver::Test(L"0", L"\x221A(1024) - 32 + ", commands22);
Command commands23[] = { Command::Command2, Command::CommandPNT, Command::Command2, Command::Command5,
Command::CommandSQRT, Command::CommandSUB, Command::Command1, Command::CommandPNT, Command::Command5,
Command::CommandADD, Command::CommandNULL };
TestDriver::Test(L"0", L"\x221A(2.25) - 1.5 + ", commands23);
Command commands24[] = { Command::Command8, Command::Command7, Command::Command6, Command::Command5,
Command::Command4, Command::Command3, Command::Command2, Command::Command1,
Command::CommandPNT, Command::Command1, Command::Command2, Command::Command3, Command::Command4,
Command::Command5, Command::Command6, Command::Command7, Command::Command8,
Command::CommandSQR, Command::CommandSQRT, Command::CommandSUB,
Command::Command8, Command::Command7, Command::Command6, Command::Command5,
Command::Command4, Command::Command3, Command::Command2, Command::Command1,
Command::CommandPNT, Command::Command1, Command::Command2, Command::Command3, Command::Command4,
Command::Command5, Command::Command6, Command::Command7, Command::Command8,
Command::CommandADD, Command::CommandNULL };
TestDriver::Test(L"0", L"\x221A(sqr(87654321.12345678)) - 87654321.12345678 + ", commands24);
}
void CalculatorManagerTest::CalculatorManagerTestScientific()
@ -611,6 +628,17 @@ namespace CalculatorManagerTest
Command::CommandPNT, Command::Command2, Command::Command3, Command::Command4, Command::Command5,
Command::Command6, Command::CommandADD, Command::CommandNULL };
TestDriver::Test(L"17.161687912241792074207286679393", L"10 ^ 1.23456 + ", commands22, true, true);
Command commands23[] = { Command::CommandOPENP, Command::Command1, Command::CommandDIV,
Command::Command9, Command::CommandCLOSEP, Command::CommandSQRT, Command::CommandSUB,
Command::Command1, Command::CommandDIV, Command::Command3, Command::CommandADD, Command::CommandNULL };
TestDriver::Test(L"0", L"\x221A(1 \x00F7 9) - 1 \x00F7 3 + ", commands23, true, true);
Command commands24[] = { Command::CommandOPENP, Command::Command2, Command::Command7,
Command::CommandDIV, Command::Command1, Command::Command2, Command::CommandCLOSEP,
Command::CommandSQRT, Command::CommandSUB, Command::Command1, Command::CommandPNT, Command::Command5,
Command::CommandADD, Command::CommandNULL };
TestDriver::Test(L"0", L"\x221A(27 \x00F7 12) - 1.5 + ", commands24, true, true);
}
void CalculatorManagerTest::CalculatorManagerTestScientificParenthesis()