1) conviene parametrizar el cono en forma cartesiana ... de forma vectorial esa parametrizacion se escribe como
\[g:R^2\to R^3/g(x,y)=\left ( x,y,\sqrt{\frac{x^2+y^2}{3}}}\right )\]
por definicion
\[A=\iint |g'_x\times g'_y|dxdy\]
echas las cuentas
\[|g'_x\times g'_y|=\left|\left (1,0,\frac{x}{\sqrt{3}\sqrt{x^2+y^2}} \right )\times\left (1,0,\frac{y}{\sqrt{3}\sqrt{x^2+y^2}} \right )\right|=\frac{\sqrt{4}}{\sqrt{3}}\]
tomando polares sobre la region en el plano xy
\[A=\iint |g'_x\times g'_y|dxdy=\frac{\sqrt{4}}{\sqrt{3}}\iint rdrd\theta=\frac{\sqrt{4}}{\sqrt{3}}\mbox{area del circulo}=\frac{8\pi}{\sqrt{3}}\]
2) como te piden que verifiques el teorema del rotor entonces necesariamente se tiene que cumplir
\[\omega=\oint_{C^+}fds=\iint rot (f)n dA\]
entonces de las condiciones del ejercicio la intereseccion de ambas superficies (plano esfera) genera una curva del tipo
\[C\left\{\begin{matrix}x^2+y^2=1\\z=0 \end{matrix}\right.\]
verifico el primer termino de la igualdad del teorema, la curva debe ser recorrida en sentido antihorario , una parametrizacion, escrita de forma vectorial que me permite eso es
\[g:R\to R^3/g(t)=(\cos t,\sin t,0)\quad t\in[0,2\pi]\]
luego
\[\omega=\oint fds=\int_{a}^{b}f(g(t))g'(t)dt\]
\[f(g(t))g'(t)=(2\cos t-\sin t,0,0)(-\sin t,\cos t,0)=2\cos t\sin t-\sin^2t\]
finalmente
\[\omega=\int_{0}^{\2\pi}2\cos t\sin t-\sin^2tdt=-\pi\]
para verificar el rotor tomo la normal saliente a la superficie , entonces \[n=(0,0,-1)\] el \[rot=(-2yz+y,0,1)\]
entonces
\[\iint rot(f)ndA=\iint -1 dA=-1\mbox{area del circulo}=-\pi\]
se verifica el teorema del rotor
ahi maik contesto el primero.. tenes dos formas de encarar un mismo ejercicio