Dễ thấy khi A trùng B trùng O ( đường thẳng qua gốc toạ độ) thì diện tích tam giác OAB = 0 là nhỏ nhất.
Bài toán còn có cực trị khác, khi đường thẳng này có hệ số góc âm, tức là tam giác OAB nằm ở góc phần tư thứ nhất
y = ax + b
đường thẳng đi qua M (1,2) nên a + b = 2
A (0,b) ; B (-b/a,0)
Diện tích tam giác OAB sẽ là S = (1/2) OA.OB = (1/2).b^2/(2.abs(a))
Thế b = 2-a, lưu ý rằng khi bỏ dấu giá trị tuyệt đối thì hàm vẫn đạt cực trị khi đạo hàm bằng 0. Lấy đạo hàm hàm số f(a) = (2-a)^2/a, giải phương trình f'(a) = 0 được 2 nghiệm a = 2 (chính là trường hợp qua gốc toạ độ); a = -2 => phương trình đường thẳng đó là y = -2x + 4.