解：

F"x-F"y=z(y-x)+2b(x-y)=(x-y)(2b-z)=0 ①

F"x-F"z=y(z-x)+2b(x-z)=(x-z)(2b-y)=0 ②

1）若x-y≠0，2b-z=0，即z=2b

(x-2b)(y-2b)=0

若x-2b=0，y-2b≠0，即x=2b，y≠2b，代入

x+y+z=0

得到：y=-4b

將x=2b，y=-4b，z=2b代入x²+y²+z²=1，解得：b=±√6/12

將以上結果代入F"x=0

得到：a=1/6

所以，在這種情況下，方程組的解有2組：

{a=1/6，b=√6/12，x=√6/6，y=-√6/3，z=√6/6}

{a=1/6，b=-√6/12，x=-√6/6，y=√6/3，z=-√6/6}

2）若x=y，2b-z≠0

假設x-z=0，x-2b≠0

代入x+y+z=0，得到x=y=z=0，與x²+y²+z²=1矛盾，假設不成立

假設x-z≠0，則x-2b=0，x=y=2b，代入x+y+z=0，得到z=-4b

代入x²+y²+z²=1，求得：b=±√6/12

將以上結果代入F"x=0，得：a=1/6

所以，在這種情況下，方程組的解有2組：

{a=1/6，b=√6/12，x=√6/6，y=√6/6，z=-√6/3}

{a=1/6，b=-√6/12，x=-√6/6，y=-√6/6，z=√6/3}

3）假設x-y=0，且2b-z=0均成立

解得：x=2b

所以就有：x=y=z=2b

代入x+y+z=0，解得：b=0

所以就有：x=y=z=0

與x²+y²+z²=1矛盾，整個假設不成立

綜上所述，原方程的解有4組

{a=1/6，b=√6/12，x=√6/6，y=-√6/3，z=√6/6}

{a=1/6，b=-√6/12，x=-√6/6，y=√6/3，z=-√6/6}

{a=1/6，b=√6/12，x=√6/6，y=√6/6，z=-√6/3}

{a=1/6，b=-√6/12，x=-√6/6，y=-√6/6，z=√6/3}