[MATH-1417] weird result in RRQR decomposition.

• Type: Bug
• Status: Open
• Priority: Major
• Resolution: Unresolved
• Affects Version/s: 3.6.1

Environment

linux RH6
netbeans 8.2
java 1.8

• Assignee: Unassigned
• Reporter: Lecomte
• Created: 09/May/17 08:56
• Updated: 10/May/17 09:54

Description

When using RRQRDecomposition on rank deficient matrix, results are wrong.

double[][] Xi = {

{0, 0, 0, 0, 0, 0, 0, 0, 0},
{0, 1, 0, 0, 0, 0, 0, 0, 0},
{0, 0, 1, 0, 0, 0, 0, 0, 0},
{0, 0, 1, 0, 0, 0, 0, 0, 0},
{0, 0, 1, 0, 0, 0, 0, 0, 0},
{0, 0, 0, 1, 0, 0, 0, 0, 0},
{0, 0, 0, 0, 0, 0, 1, 0, 0},
{0, 0, 0, 0, 0, 0, 0, 0, 0}

,};

With this matrix, i obtain:

rank 6

R:

1,000 0,000 0,000 0,000 0,000 0,000 0,000 0,000
0,000 1,000 1,000 1,000 0,000 0,000 0,000 0,000
0,000 0,000 0,000 0,000 0,000 0,000 0,000 0,000
0,000 0,000 0,000 0,000 1,000 0,000 0,000 0,000
0,000 0,000 0,000 0,000 0,000 0,000 0,000 0,000
0,000 0,000 0,000 0,000 0,000 1,000 0,000 0,000
0,000 0,000 0,000 0,000 0,000 0,000 0,000 0,000
0,000 0,000 0,000 0,000 0,000 0,000 0,000 0,000
0,000 0,000 0,000 0,000 0,000 0,000 0,000 0,000

Q:

0,000 0,000 1,000 0,000 0,000 0,000 0,000 0,000 0,000
1,000 0,000 0,000 0,000 0,000 0,000 0,000 0,000 0,000
0,000 1,000 0,000 0,000 0,000 0,000 0,000 0,000 0,000
0,000 0,000 0,000 1,000 0,000 0,000 0,000 0,000 0,000
0,000 0,000 0,000 0,000 1,000 0,000 0,000 0,000 0,000
0,000 0,000 0,000 0,000 0,000 0,000 1,000 0,000 0,000
0,000 0,000 0,000 0,000 0,000 1,000 0,000 0,000 0,000
0,000 0,000 0,000 0,000 0,000 0,000 0,000 1,000 0,000
0,000 0,000 0,000 0,000 0,000 0,000 0,000 0,000 1,000

Where Scipy (lapack) or ejml gives me:
rank 4
Type = dense real , numRows = 9 , numCols = 8
-1,000 0,000 0,000 0,000 0,000 0,000 0,000 0,000
0,000 -1,000 0,000 0,000 -1,000 0,000 -1,000 0,000
0,000 0,000 -1,000 0,000 0,000 0,000 0,000 0,000
0,000 0,000 0,000 -1,000 0,000 0,000 0,000 0,000
0,000 0,000 0,000 0,000 0,000 0,000 0,000 0,000
0,000 0,000 0,000 0,000 0,000 0,000 0,000 0,000
0,000 0,000 0,000 0,000 0,000 0,000 0,000 0,000
0,000 0,000 0,000 0,000 0,000 0,000 0,000 0,000
0,000 0,000 0,000 0,000 0,000 0,000 0,000 0,000

Type = dense real , numRows = 9 , numCols = 9
0,000 0,000 0,000 0,000 0,000 0,000 1,000 0,000 0,000
-1,000 0,000 0,000 0,000 0,000 0,000 0,000 0,000 0,000
0,000 -1,000 0,000 0,000 0,000 0,000 0,000 0,000 0,000
0,000 0,000 -1,000 0,000 0,000 0,000 0,000 0,000 0,000
0,000 0,000 0,000 0,000 1,000 0,000 0,000 0,000 0,000
0,000 0,000 0,000 0,000 0,000 1,000 0,000 0,000 0,000
0,000 0,000 0,000 -1,000 0,000 0,000 0,000 0,000 0,000
0,000 0,000 0,000 0,000 0,000 0,000 0,000 1,000 0,000
0,000 0,000 0,000 0,000 0,000 0,000 0,000 0,000 1,000

That are the results i expect.