a. Phương trình đường tròn có dạng x2+y22ax2by+c=0.

Thay tọa độ các đỉnh M(2; 5), N(1; 2), P(5, 4) vào phương trình đường tròn, ta được hệ phương trình:

{22+524a10b+c=012+222a4b+c=052+4210a8b+c=0  {4a+10bc=292a+4bc=510a+8bc=41  {a=3b=3c=13

Vậy phương trình đường tròn ngoại tiếp tam giác MNP là: 

x2+y26x6y+13=0

b. Phương trình đường tròn có dạng x2+y22ax2by+c=0.

Thay tọa độ các đỉnh A(0; 6), B(7; 7), C(8; 0) vào phương trình đường tròn, ta được hệ phương trình:

{6212b+c=072+7214a14b+c=08216a+c=0  {12bc=3614a+14bc=9816ac=64  {a=4b=3c=0

Vậy phương trình đường tròn ngoại tiếp tam giác ABC là: 

x2+y28x6y=0